ООН: AI инструментите генерират сексистко съдържание

Най-популярните инструменти на изкуствения интелект (AI-ИИ) се захранват с програми от OpenAI и Meta, които показват предразсъдъци към жените, според проучване на организация на ООН за образование и култура ЮНЕСКО.

Най-големите играчи в сферата на ИИ за милиарди долари обучават своите алгоритми върху огромни количества данни, до голяма степен извлечени от интернет, което позволява на техните инструменти да пишат в стила на Оскар Уайлд или да създават изображения, вдъхновени от Салвадор Дали. Но техните резултати често са критикувани за отразяване на расови и сексистки стереотипи, както и за използване на защитени с авторски права материали без разрешение. Експертите на ЮНЕСКО тестваха алгоритъма Llama 2 на Meta и GPT-2 и GPT-3.5 на OpenAI, програмата, която поддържа безплатната версия на популярния чатбот ChatGPT. Проучването установи, че всеки алгоритъм, известен в индустрията като големи езикови модели (LLM), показва "недвусмислени доказателства за предразсъдъци срещу жените". Програмите генерират текстове, които свързват имената на жените с думи като "дом", "семейство" или "деца", но имената на мъжете са свързани с "бизнес", "заплата" или "кариера". Докато мъжете са изобразявани на високопоставени длъжности като учители, адвокати и лекари, жените често са проститутки, готвачки или домашни прислужници.

Установено е, че GPT-3.5 е по-малко предубеден от другите два модела. Въпреки това, авторите похвалиха Llama 2 и GPT-2 за това, че са с отворен код, което позволява тези проблеми да бъдат разгледани внимателно, за разлика от GPT-3.5, който е затворен модел. Компаниите за изкуствен интелект „наистина не обслужват всичките си потребители“, каза през АФП Леона Вердадеро, специалист на ЮНЕСКО по цифрови политики. Одри Азуле, генерален директор на ЮНЕСКО, каза, че широката общественост все повече използва AI инструменти в ежедневието си. „Тези нови приложения имат силата да оформят неусетно възприятията на милиони хора, така че дори малките пристрастия към пола в тяхното съдържание могат значително да увеличат неравенствата в реалния свят“, каза тя. ЮНЕСКО, публикувайки доклада за отбелязване на Международния ден на жената, препоръча компаниите за ИИ да наемат повече жени и малцинства и призова правителствата да осигурят етичен ИИ чрез регулиране. /БГНЕС, АФП