L’origine légendaire de leur nom reste relativement obscure. Certains affirment qu’il s’agit du nom du papier à cigarette utilisé à l’époque par les membres du groupe. Pour d’autres, le groupe aurait pris ce nom pour que leurs albums soient toujours les derniers dans les bacs à disques (vinyls à l’époque) de tous les disquaires (le classement dans ces bacs étant le plus souvent alphabétique). Une rumeur persiste par ailleurs quant au fait que qu’il s’agirait tout simplement d’une faute de frappe, le groupe devant s’appeler initialement « 22 top » et non « zz top ». L’explication, a priori officielle vient de Billy Gibbons. Celui-ci explique dans le livre consacré au groupe Rock + Roll Gearhead que le nom a été choisi en hommage au maître du blues B.B. King. ZZ Top auraient d’abord choisi de s’appeler « ZZ King » mais cela ressemblait encore trop à l’original et considérant que ce « King » était au « Top » ZZ Top auraient décidé d’opter pour ZZ Top. Dernièrement, le groupe a cependant déclaré dans le magazine français Guitare Extrême, que leur nom vient de la bière Corona Light, le L de Light ressemblant à un Z. ZZ Top en auraient donc retournés deux pour obtenir le célèbre double Z. Ces diverses explications ne font qu’ajouter à la confusion mais connaissant l’humour des trois membres du groupe, cette profusion d’explications peut aussi être vue comme une sorte de plaisanterie récurrente de leur part.
Billy Gibbons, Dusty Hill et Frank Beard ont 21 ans quand ZZ Top décident de créer leur trio en 1970. Billy Gibbons fait alors partie du groupe de blues psychédélique The Moving Sidewalks où son touché guitaristique bluesy, reconnaissable à la première note, fait fureur. Hill et Beard quant à eux font alors partie du groupe American Blues. ZZ Top sortent leurs premier album appelé sobrement ZZ Top’s First Album au son résolument blues. Gibbons ne s’est jamais caché d’être avant tout un bluesman, même si on retrouve dans la musique du groupe des influences rock évidentes avec notamment plusieurs reprises d’Elvis Presley (Jailhouse rock et Viva Las Vegas) ainsi que le psychédélisme (la reprise de The 13th Floor Elevators Reverbation sur la compilation Tribute to Rocky Erickson).
À cette époque ZZ Top n’ont pas encore adopté les barbes surdimensionnées qui feront leur succès et arborent un style texan avec Stetson et santiags.
Deux ans plus tard, ZZ Top sortent l’album Rio Grande Mud puis, en 1973, l’album que beaucoup de fans considèrent comme leur meilleur album Tres Hombres dont est issu le titre devenu l’un des plus grands classiques du rock : La Grange évoquant un bordel texan.