Kazım Koyuncu, nüfusa geç kaydedildiğinden dolayı resmi doğum tarihi 10 Mayıs 1972 olsa da 7 Kasım 1971'de Artvin'in Hopa ilçesine bağlı Yeşilköy'de doğdu. Cavit Bey ve Hüsniye Hanımın 6 çocuğundan 5'incisi olarak dünyaya gelen sanatçı, babaannesinden masallar, Kemençeci Yaşar lakabıyla tanınan Yaşar Turna'dan türküler dinleyerek büyüdü.
Okumayı çok seven, müziğe ortaokul yıllarında babasının aldığı mandolinle başlayan Koyuncu, futbolla ilgilendi ve köydekilerin aksine sıkı bir Trabzonspor taraftarı oldu. Koyuncu, 1989'da köyünden ayrılarak İstanbul Üniversitesi'nde Kamu Yönetimi Bölümü'ne kayıt yaptırdıysa da üniversitede pek parlak bir öğrencilik dönemi geçirmedi.
Sanat tutkusu ağır basan ve müzik çalışmalarına o yıllarda ağırlık veren Koyuncu, 1992'de Ali Enver'le birlikte Dinmeyen isimli müzik gurubunu kurarak profesyonel müziğe adım attı.
Tiyatro oyunlarına da müzik yapan sanatçı 1993'te okulu bıraktı. Koyuncu, daha sonra okulu bırakma kararına ilişkin sorulan bir soruya, "Zor dönemler, o okulu bitirip kaymakam falan olacaksın ya da kendi istediğin işi yapacaksın ama hep soru işaretleri olacak, sonu nereye varacak? Bu tercihlerden soru işaretli olanını tercih ettim" cevabını vermişti.
Sanatçı, okulu bırakmasının ardından sadece müzik yapmaya karar vererek, Karadeniz müziğini rock müzikle birleştirip kendi tarzını oluşturdu.
Aynı yıl arkadaşlarıyla birlikte Zuğaşi Berepe adında bir grup kuran Koyuncu, hem yeni grubuyla hem Dinmeyen grubuyla çalıştı.
Koyuncu, yeni grubuyla ilk albümü Va Mişkunan'ı (Bilmiyoruz) 1995'te yayınlarken sanatçı, bu yeni tarzıyla müzikseverler tarafından olumlu tepkiler aldı. Bu arada Dinmeyen grubu 1996'da Sisler Duvarı albümünü çıkarmasının hemen ardından, Zuğaşi Berepe grubu ise ikinci albümleri İgzas'tan sonra 1999'da dağıldı. Sanatında yenilikler ve denemeler yapmaktan kaçınmayan, Karadeniz müziğinin hem sert hem de duygusal yapısını eserlerine taşıyan Koyuncu'nun ilk kişisel albümü "Viya!" ise 2001'de müzik marketlerdeki yerini aldı.
Koyuncu, esas tanınırlığını 2002'de yayınlanan Gülbeyaz isimli televizyon dizisinin müziklerini yapmasıyla elde ederken, dizinin ardından konser programları artmaya başladı ve 2004'te ikinci solo albümü Hayde'yi çıkardı.
Kanser teşhisi konulduğunda takvimler 2004'ün aralık ayını gösteriyordu ama doktorlar fazla yorulmaması gerektiğini söylese de sanatçı konserler vermeye devam etti. Son konserini 4 Şubat 2005'te Taksim'deki Yeni Melek Gösteri Merkezi’nde veren Koyuncu'nun o gün söylediği "Ha kanser ha konser" sözleri sevenleri tarafından unutulmadı. Koyuncu, hüzün kokan albümlerinde Türkçenin yanı sıra Hemşince, Lazca ve Gürcüce eserlere yer verirken, sadece Karadeniz bölgesinde değil, yurt içi ve yurt dışından geniş bir coğrafyada geniş bir kitle tarafından sevildi.
Bir röportajında "Çocukken şiirle güzel oynuyordum. Şairlerle çok uğraşıyordum. Bir ceket yaptırmak istedim o zamanlar İstanbul'a gelirken, şair ceketi..." sözlerini sarfeden Kazım Koyuncu, tedavi gördüğü hastanede 25 Haziran 2005'te, 33 yaşındayken yaşamını yitirdi. Koyuncu, vefatından iki gün sonra, doğduğu köy olan Yeşilköy'de fındık ağaçlarının çevrelediği köy mezarlığında defnedildi.