Интернет в ярости: пользователь 4Chan использует голосовой симулятор AI для дипфейкового голоса Эммы Уотсон и заставляет ее читать автобиографию Гитлера

Бывшие сотрудники Google и Palantir вместе запустили стартап Elevenlabs, целью которого было создание высококачественных звуковых подделок знаменитостей с помощью своего инструмента клонирования голоса ИИ. Но их бета-запуск вскоре имел неприятные последствия: многие злоупотребляли голосами знаменитостей, в том числе Эммы Уотсон, с помощью инструмента клонирования голоса ИИ.

Многие фанаты были возмущены неэтичным и аморальным использованием инструмента ИИ после того, как некоторые тролли злоупотребляли голосами своих любимых знаменитостей, чтобы передавать возмутительные комментарии. Но стартап заверил всех, что собирается изменить свою модель, чтобы избежать дальнейших проблем.

Также читайте: «Поскольку мне исполнилось 18, это было законно»: Эмма Уотсон была травмирована папарацци после того, как они попытались щелкнуть фотографии ее юбки, лежа на тротуаре, когда звезде Гарри Поттера исполнилось 18 лет

Поклонники в ярости после того, как пользователь 4Chan неправильно использовал голос Эммы Уотсон с помощью инструмента искусственного интеллекта

Внедрение инструмента клонирования голоса AI от Elevenlabs подожгло Интернет после того, как многочисленные тролли воспользовались использованием этого бесплатного инструмента. Хотя многие используют это программное обеспечение для создания полезного контента, часть Интернета злоупотребляет этим инструментом, заставляя знаменитостей извергать расистские оскорбления и возмутительные комментарии, а также неправомерное использование Эмма Уотсон Голос был последней каплей.

Недавно. Материнская плата сообщила о чрезмерном злоупотреблении программным обеспечением ИИ для создания оскорбительного глубокого фальшивого звука. Но соломинкой, которая сломала спину верблюда, стал пользователь 4Chan, сгенерировавший клип Гарри Поттер звезда Эмма Уотсон читает Моя борьба , автобиография нацистского диктатора Адольфа Гитлера.

Поклонники были возмущены этим неэтичным использованием программного обеспечения об Эмме Уотсон и других известных знаменитостях, включая Джо Рогана, Робина Уильямса и т. д. Компания Elevenlabs, которая сделала технологию общедоступной, решила эту растущую проблему и пообещала бороться с злоупотребление их инструментом клонирования голоса.

Также читайте: Режиссер «Узника Азкабана» попросил трио «Гарри Поттера» написать эссе об их характере: Эмма Уотсон написала 16 страниц, Дэниел Рэдклифф написал краткое содержание на 1 странице, Руперт Гринт не написал ни одного

Elevenlabs обещает избежать дальнейшего злоупотребления инструментом искусственного интеллекта

Стартап был ошеломлен положительным откликом на них в начале, так как многие использовали инструмент клонирования голоса ИИ для полезного творчества. Но вскоре компания столкнулась с проблемой после того, как тролли начали использовать программное обеспечение в гнусных целях. Elevenlabs заверили Интернет, что они глубоко изучают этот вопрос и выясняют возможные решения.

Хотя создатели Elevenlabs признали, что могут отследить пользователей, злоупотребляющих возможностями инструмента ИИ, они ищут дополнительные меры безопасности, чтобы избежать этой проблемы. Создатели поделились разными идеями для решения этой проблемы, включая введение ручной проверки для каждого клонирования и полной проверки личности пользователя с помощью оплаты или любого другого метода.

Также читайте: «Они должны позволить ей иметь свое мнение»: Хелена Бонем Картер не является поклонницей Эммы Уотсон и Дэниела Рэдклиффа, протестующих против Дж.К. Роулинг, чтобы защитить своих поклонников

Хотя бета-тестирование стартапа началось неоднозначно, многие фанаты были в ярости из-за неэтичного использования голосов знаменитостей с помощью инструмента искусственного интеллекта, особенно Эммы Уотсон. Но люди также признали стартап за то, что он не отмахнулся от ситуации и принял активные меры по борьбе с этими интернет-троллями.

Источник: Порок