OpenAI ще пусне инструменти за борба с дезинформацията за изборите през 2024г.
Създателят на ChatGPT OpenAI заяви, че ще въведе инструменти за борба с дезинформацията преди изборите в многобройни страни тази година, предаде АФП.
Взривоопасният успех на текстовия генератор ChatGPT предизвика световна революция в областта на изкуствения интелект, но също така и предупреждения, че подобни инструменти могат да наводнят интернет с дезинформация и да повлияят на избирателите.
Тъй като тази година предстоят избори в страни като САЩ, Индия и Великобритания, OpenAI заяви, че няма да позволи нейните технологии - включително ChatGPT и генератора на изображения DALL-E 3 - да бъдат използвани за политически кампании.
"Искаме да сме сигурни, че нашата технология не се използва по начин, който може да подкопае демократичния процес", заяви OpenAI.
"Все още работим, за да разберем колко ефективни могат да бъдат нашите инструменти за персонализирано убеждаване. Докато не разберем повече, няма да позволяваме на хората да създават приложения за политически кампании и лобиране", добави тя.
Задвижваната от изкуствен интелект дезинформация е най-големият краткосрочен глобален риск и може да подкопае новоизбраните правителства в големите икономики, предупреди Световният икономически форум в доклад, публикуван миналата седмица.
Опасенията за предизборна дезинформация започнаха преди години, но публичната достъпност на мощни генератори на текстове и изображения с изкуствен интелект засили заплахата, казват експертите, особено ако потребителите не могат лесно да разберат дали съдържанието, което виждат, е фалшиво или манипулирано.
OpenAI съобщи, че работи по инструменти, които ще прикрепят "надеждна информация" към текста, генериран от ChatGPT, а също така ще дадат на потребителите възможност да открият дали дадено изображение е създадено с помощта на DALL-E 3.
"В началото на тази година ще приложим цифровите удостоверения на Коалицията за доказателство и автентичност на съдържанието - подход, който кодира подробности за произхода на съдържанието с помощта на криптография", заяви компанията.
Коалицията, известна още като C2PA, има за цел да подобри методите за идентифициране и проследяване на цифрово съдържание. Сред членовете ѝ са Microsoft, Sony, Adobe и японските фирми за обработка на изображения Nikon и Canon.
OpenAI съобщи, че ChatGPT ще насочва потребителите към авторитетни уебсайтове, когато им бъдат зададени процедурни въпроси за изборите в САЩ, като например къде да гласуват.
"Поуките от тази работа ще послужат като основа за нашия подход в други държави и региони", допълни тя.
Тя добави, че DALL-E 3 има "предпазни огради", които не позволяват на потребителите да генерират изображения на реални хора, включително кандидати.
Съобщението на OpenAI следва стъпките, разкрити миналата година от американските технологични гиганти Google и Meta, за ограничаване на намесата в изборите, особено чрез използването на изкуствен интелект. /БГНЕС