Urodził się w 1945 r. w Wejherowie. Jego pasją życiową jest rzeźbiarstwo. Najchętniej tworzy w drewnie, kamieniu, rogu i bursztynie. Od 1984 r. jest mieszkańcem Wodnicy koło Ustki.
W 1999 r. jego „Kapela kaszubska” złożona z szesnastu rzeźb znalazła się na ołtarzu w Sopocie podczas wizyty papieża Jana Pawła II. Obecnie prezentowana jest na terenie Sanktuarium Matki Bożej Brzemiennej w Gdańsku Matemblewie.
Ważne miejsce w twórczości artysty zajmuje tematyka religijna. Systematycznie bierze udział w przeglądach sztuki ludowej organizowanych przez Muzeum Pomorza Środkowego w Słupsku.
Swoje prace prezentuje w konkursach i na wystawach w kraju i za granicą. W 2001 r. brał udział w festiwalu folklorystycznym w Portugalii prezentując swoje prace. Tworzył także m.in. w 2006 r. w Belgii i w 2007 r. na Sycylii w miejscowości Vita. Zdobywa liczne nagrody i wyróżnienia. Informacje o jego pracy artystycznej ukazują się w prasie i telewizji. Nakręcono dwa filmy z jego udziałem: pt. „Kazimierza Kostki rozmowy z diabłem„
i „ Dwa ołtarze i dwie pielgrzymki”. Napisano także dwie prace magisterskie na temat jego twórczości. Rzeźby Kazimierza Kostki znajdują się głównie w Muzeum Pomorza Środkowego w Słupsku, w zbiorach muzeów w Toruniu, Poznaniu, Warszawie, Bydgoszczy oraz w licznych kościołach, a także w zbiorach prywatnych w kraju i za granicą. Jego prace oglądać można także w galerii stałej przy Świetlicy Wiejskiej w Wodnicy. Wystawy czasowe organizwoane są także w Galerii Sztuki Ludowej Powiatu Słupskiego w Starostwie Powiatowym w Słupsku.