В возрасте 9 лет отец отдал его в секцию бокса. Костя делал успехи, в15 лет он впервые принял участие в международных соревнованиях. Дважды стал чемпионом СССР по боксу среди юниоров (в 1986 и 1987 годах). В 1989 и 1991 году Костя Цзю стал победителем чемпионата Европы. После победы на чемпионате мира в Сиднее спортсмен принял решение начать профессиональную карьеру боксера в Австралии. В 1991 году состоялось его первое профессиональное выступление против Даррелла Хайлза, завершившееся победой Цзю. Костя Цзю делал большие успехи, не проигрывая практически ни одного боя, в первые же несколько лет своей профессиональной карьеры он одержал победу над двумя бывшими чемпионами мира - Хана Ла Порте и Ливингстона Брэмбла. Чемпионский титул по версии IBF (Международная боксерская федерация) боксер получил после победы над Джейком Родригесом.
После этого в течение 2 лет Костя Цзю защищал титул в борьбе с очень сильными соперниками: Роджером Мэйуэзером, Уго Пинеда, Кори Джонсоном, Яном Бергманом, Леонардо Маса. За это время он завоевал славу сильнейшего бойца полусреднего веса. Однако в 1997 году Винс Филипс победил его, и Косте пришлось заново отвоевывать чемпионский пояс. В 2001 году он вернул титул чемпиона мира по версии IBF в бою с Заб Джуда. В этом же году он завоевал чемпионский титул Всемирной боксерской ассоциации, победив Шармба Митчелл. В 1999 году Костя Цзю стал чемпионом мира по версии Всемирного боксерского совета (WBC), считающегося самой значимой боксерской организацией в мире. Он взял чемпионский титул в нелегкой борьбе с Мигель-Анхелем Гонсалесом.
В 2009 году Константин Цзю основал фонд поддержки развития детского спорта в России. Летом того же года в Москве была открыта первая Школа Бокса Кости Цзю. 12 июня 2011 года Костя Цзю вместе с Майком Тайсоном, Сильвестром Сталлоне, Хулио Сезаром Чавесом и Джо Кортесом вошел в Международный зал славы бокса.
