Шокантно откритие: „Вештачката интелигенција ги користи нашите лица за промовирање диктатури“
Синтезија, компанија вредна милијарда долари која нуди услуги за вештачка интелигенција за претворање на текстот во видео, се најде неодамна на удар на критики откако човечки модели открија дека нивните ликови биле користени во пропагандни видеа поврзани со авторитарни режими како Кина, Русија и Венецуела.
Технологијата на компанијата им овозможува на корисниците да креираат видеа со аватари на интерфејсот - дигитални копии на вистински луѓе - исто толку лесно како креирање на слајдови. Иако оваа иновација привлече клиенти од висок профил, како што се Ројтерс и Ернст и Јанг, таа исто така беше искористена од авторитарни групи, на големо разочарување на вклучените модели.
Неколку манекенки, кои позираа за Synthesia без да знаат дека нивните фотографии и снимки ќе бидат користени во такви контексти, го изразија своето незадоволство од начинот на кој се манипулира со нивните лица.
„Во шок сум“
Марк Торес, креативен директор со седиште во Лондон, беше шокиран кога го виде неговиот аватар со вештачка интелигенција како промовира воено владеење во непозната земја. „Во шок сум, немам зборови во моментов“. „Во креативната индустрија сум повеќе од 20 години и никогаш не сум се чувствувал толку повреден и ранлив“, изјави тој за британските медиуми.
Загриженоста на Торес ја повторија и други модели, вклучувајќи го и Ден Девирст, кој откри дека неговата сличност била користена во венецуелската пропаганда генерирана од вештачката интелигенција. Dewhirst, кој првично беше модел за Synthesia под различни договори, изрази загриженост дека видеата може да му наштетат на неговата професионална репутација.
„Можеби изгубив клиенти. „Тоа беше навистина, навистина штетно за моето ментално здравје“, изјави тој за британските медиуми.
Брзиот раст и широкото усвојување на Synthesia, при што клиентите плаќаат илјадници долари за само еден ден снимање, ја нагласуваат привлечноста на содржината генерирана од вештачка интелигенција за бизнисите и владите. Сепак, неовластената употреба на човечки ликови во контроверзните видеа покрена етичка загриженост, особено во светлината на новите законски заштити.
Појасни упатства
Пред крајот на 2024 година, Калифорнија донесе закон со кој се забранува употреба на гласовни реплики или слики на актери генерирани со вештачка интелигенција без изречна согласност.
И покрај реакциите, Synthesia тврди дека нејзините модели биле информирани за потенцијалната употреба на нивните аватари преку нејзините „услови за користење“. „Иако нашите процеси и системи можеби не се совршени, нашите основачи се посветени на нивното континуирано подобрување“, рече портпаролот на компанијата.
Како што се интензивираат дебатите за етичката примена на вештачката интелигенција, контроверзноста околу Синтезија ја нагласува потребата од појасни упатства и посилна заштита за поединци чии слики и идентитети се користат во дигиталните медиуми.
