U to vrijeme su u studiju saradjivali sa Batom Kosticem, gitaristom YU grupe. Goran je kasnije isticao kako je ta saradnja puno uticala na njegovu dalju muzicku orijentaciju, posebno kada je upotreba folka bila u pitanju. Nove snimke "Top" i "Ove cu noci naci blues" ponudili su upravo osnovanom sarajevskom Diskotonu. Tadašnji muzicki urednik Slobodan Vujovic ih je odbio uz objašnjenje da su pretrpani i da ce morati da sacekaju bar pola godine do objavljivanja singla. Nestrpljivi, istog dana su potpisali petogodišnji ugovor sa Jugotonom. Ta loša procjena Diskotona predstavlja najveci poslovni kiks u istoriji jugoslovenske diskografije. Zeljko Bebek odlucuje da napusti posao u Savezu zajednica socijalnog osiguranja Bosne i Hercegovine i da, iako ozenjen i sa malim djetetom, krene u rizicnu avanturu. U pocetku su pretezno svirali u manjim gradovima, posebno u Zenici. Kada su shvatili da basista Jadranko Stankovic ne odgovara, otpustili su ga i marta 1974. godine pozvali Zorana Redzica. Sledeci singl sa pjesmama "Glavni junak jedne knjige" (tekst je napisao pesnik Duško Trifunovic) i "Bila mama Kukunka, bio tata Taranta" gotovo istovremeno su te 1974. godine objavili Jugoton i Diskoton jer je Bregovic, suprotno uobicajenim pravilima poslovanja, potpisao i sa Diskotonom ugovor za singl. To im je donelo dobrodošlu guzvu u štampi i pomoglo prodaju ploce. Prvi veci nastup imali su na BOOM festivalu u Ljubljani 10. maja 1974. godine kada su predstavljeni kao nove nade. Tog ljeta su svirali u hotelu Croatia u Cavtatu i pripremili materijal za prvi album. Treci singl sa pjesmama "Da sam pekar" i "Selma" (autor teksta pjesnik Vlado Dijak), objavljuju 30. avgusta 1974. godine i on predstavlja prelomni trenutak njihove karijere. Obje pjesme ih izbacuju u prvi plan. Tokom septembra su svirali kao predgrupa Jugoslovenskoj pop selekciji Tihomira Asanovica, a oktobra u ljubljanskom studiju Akademik za dvadesetak dana snimaju debi album "Kad bi' bio bijelo dugme" koji je objavljen vec krajem novembra.
Pre tog znacajnog dogadjaja, 9. novembra ucestvuju na Skopskom festivalu, gde izvode pesmu izvesnog Grigora Koprova. U zelji da se uoci ploce što više pojavljuju u medijima, pretrpeli su najvecu bruku u karijeri, kako je kasnije objašnjavao Bregovic. Bebek je nevješto pjevao na makedonskom a sindikalni festival nikako nije bio okruzenje za njih. Sljledece veceri nastupili su u beogradskom Domu sindikata na rodjendanskoj proslavi tada kultne emisije Radio Beograda "Vece uz radio", gde su uz Pop mašinu, Smak i Crne bisere, naprecac osvojili publiku. U to vrijeme vec rade sa agilnim zagrebackim menadzerom Vladimirom Mihaljekom i on im organizuje da 16. novembra sviraju u Sarajevu na oproštajnom koncertu Korni grupe. Petnaest hiljada okupljenih ljudi docekalo ih je sa oduševljenjem. Bilo je sasvim ocekivano što je debi album od samog pocetka zabeljezio odlicnu prodaju.
Zapakovan u provokativan omot Dragana S.Stefanovica, koji ce i ubuduce biti zaduzen za njihova diskografska ruha, album je doneo seriju prijemcivih pjesama koje je zagrebacki novinar Drazen Vrdoljak krstio kao pastirski rock. Stefanovicev omot je kasnije uvršcen u englesko izdanje knjige koja predstavlja petsto najuspešnijih omota sveta.
Promucurni Mihaljek krajem februara 1975. godine organizuje Kongres rock majstora na kome su predstavljena cetvorica najboljih domacih gitarista. Buduci da je iza svega stajao Jugoton i Mihaljekova zelja da progura Bijelo dugme, cijela akcija je bila tome podredjena. Nezvanicno, na takmicenju je pobjedio Radomir Mihajlovic Tocak, ali kako on nije bio Jugotonov izvodjac, nije uvršcen u cetvorku najboljih. Tu su se našli Vedran Bozic iz sastava Time, Josip Bocek (ex Korni grupa), Bata Kostic iz YU grupe i, naravno Bregovic. Svako od njih je snimio jednu stranu na duplom albumu "Kongres rock majstora" (Jugoton 1975.). Bregovic se opredijelio da radi sa svojom grupom a pratio ga je i Zagrebacki gudacki kvartet. Tu su se našle pjesme "Ima neka tajna veza" (na tekst Duška Trifunovica), "I kad prodje sve, pjevat cu i tad", "Znam za jedno tiho mjesto" i instrumental "Minijatura za moju majku". Cetvorka je krenula i na turneju a pratili su ih
clanovi YU grupe, bez gitariste Dragog Jelica koji je tada bio u JNA. U to vreme Dugme je objavilo singl sa pjesmom "Da mi je znati koji joj je vrag" a zatim su krenuli na iscrpnu jugoslovensku turneju. Vec u proljece 1975. godine vazili su za najpopularniji jugoslovenski sastav.