Големите успехи на клубно ниво за Трифон Иванов идват, след като акостира в Австрия през 1995. Бранителят изиграва два сезона за Рапид Виена, в които записва 53 мача и 8 гола. С екипа на „зелено-белите” българският национал печели титлата на страната и достига до финала за КНК през 1996. След това последва трансфер в градския съперник Аустрия Виена. Статистиката му там е 11 срещи и 1 гол. До края на професионалната си кариера Иванов играе в друг австрийски тим – Флоридсдорфер АЦ, където бранителят се подвизава до 2001 година.
За националния отбор на България Трифон Иванов дебютира през 1988 година и участва на три големи първенства – Световно в САЩ през 1994, когато стана четвърти в света, Евро 1996 и Мондиал 1998 във Франция. Именно благодарение решителен гол с глава на Трифон Иванов срещу Русия България се класира за Световното във Франция. Общо за представителния отбор Трифон Иванов изигра 76 мача, в които вкара 6 гола.
„Най-железният от нашия състав като физика, като комплексен човек и футболист. Той беше железният мъж, железният футболист, когото толкова бързо ни го отне природата", сподели легендарният треньор Димитър Пенев на погребението на Иванов преди шест години. „Щупай, щупай немците по главите“ - това беше призивът му преди мача с Германия", спомни си тогава съотборникът му в Етър и националния отбор Цанко Цветанов.