Icma.az
close
up
AZ
Menu

Лига конференций УЕФА: Зиря в первом матче сезона сыграла вничью с Хайдуком

Ночная атака ВСУ: вокзал и ГРЭС в Новочеркасске под ударами, есть раненые

Главреда и продюсера Baza обвиняют в даче взятки им грозит до 12 лет

Неприятности и невезение

Империя смерти братьев Джансюзян в российском Ростове Фото

Рашад Садыхов: Знаю, что судьи немного симпатизируют сопернику

В Баку стартовал Dream FEST 2025

Названы самые надежные подержанные немецкие кроссоверы

Кадыров едва не утонул на отдыхе в Турции, сообщают местные СМИ Minval Politika

DREAM FEST 2025 в Баку: Брендон Стоун с семьёй на красной дорожке

Леди Гага упала на сцене

СМИ: Пашинян дал старт антироссийским действиям в Армении

Америка продаст Украине оружие на $330 миллионов

Умеров рассказал о результатах переговоров с Россией

Мост Трампа : всплыли новые детали по Зангезурскому коридору Minval Politika

Атака дронов ВСУ: в российском Новочеркасске есть раненые

Зеленский надеется на помощь Британии в вопросе с НАБУ и САП

Зире vs Хайдук. Статистика матча

Азербайджан увеличил доходы от экспорта фруктов и овощей

ЦБА стремится приблизить AZIR к учетной ставке

Искусственный интеллект против ругательств: ElevenLabs блокирует пользователей

Искусственный интеллект против ругательств: ElevenLabs блокирует пользователей

Icma.az сообщает, ссылаясь на сайт Vesti.

Компания искусственного интеллекта ElevenLabs, предоставляющая услуги клонирования голоса людям с нарушениями речи, оказалась в центре скандала после жалоб пользователей, которых блокировали за использование якобы неподобающих выражений.

Как сообщает Vesti.az со ссылкой на мировые паблики, люди с заболеваниями мотонейронов, такими как БАС (боковой амиотрофический склероз), со временем теряют возможность говорить. ElevenLabs предлагает им ИИ-инструменты, позволяющие «говорить» их собственными голосами, вводя текст вручную. Однако оказалось, что система модерации компании автоматически блокирует пользователей за определенные слова, даже если они не несут агрессивного или оскорбительного смысла.

Так, жительница Великобритании Джойс Эссер, которая потеряла голос из-за болезни, поделилась историей, как получила бан от ElevenLabs. Она редко использует свой голосовой клон, но иногда включает его ради удовольствия. В один из таких моментов она ждала мужа и, набрав на устройстве фразу «Давай, дорогой, шевели задницей!», услышала собственный голос.

На следующий день ElevenLabs отправила ей предупреждение о нарушении правил, а затем и вовсе заблокировала ее учетную запись. Джойс предположила, что слово «задница» автоматически попало под фильтр, но ожидала, что при модерации с участием человека ошибка будет исправлена. Однако компания не пересмотрела свое решение.

«Я только что вернула себе голос, а теперь они его у меня отняли... и всего через два дня после того, как я сделала презентацию для местной группы MND, рассказав, насколько замечательна ElevenLabs», — возмутилась Джойс.

Позже, после жалобы, ElevenLabs извинилась и восстановила её аккаунт, но так и не объяснила, что именно послужило причиной блокировки

Журналистам удалось выяснить, что в официальных условиях использования ElevenLabs нет запрета на ненормативную лексику. Однако компания оставляет за собой право «прекратить или приостановить» доступ к сервису, если посчитает, что контент нарушает закон или её внутренние условия.

В то же время другой клиент компании, Жюль Родригес из Майами, регулярно использовал голосовой ИИ с фразами вроде «Fuck you guys!», но не получал никаких предупреждений.

Компания признала проблему и заявила, что старается больше не блокировать пользователей за ненормативную лексику.

«Люди, живущие с БАС, должны иметь возможность говорить всё, что у них на уме, даже ругаться. У них есть много поводов для ругательств», — отметил Ричард Кейв из Ассоциации БАС в Великобритании.

Напомним, что в декабре прошлого года ElevenLabs представила новую модель Flash, которая преобразует текст в речь всего за 75 миллисекунд – одну из самых быстрых на рынке. Также компания внедрила функцию создания полноценных голосовых агентов, где можно задавать язык общения, приветственное сообщение и стиль поведения ИИ.

Скандал с блокировкой пользователей показал, что технологии искусственного интеллекта еще далеки от совершенства, а политика модерации требует доработки.

Оставайтесь с нами на Icma.az, чтобы не пропустить важные новости и обновления по данной теме.
seeПросмотров:108
embedИсточник:https://vesti.az
archiveЭта новость заархивирована с источника 15 Февраля 2025 19:27
0 Комментариев
Войдите, чтобы оставлять комментарии...
Будьте первыми, кто ответит на публикацию...
topСамые читаемые
Самые обсуждаемые события прямо сейчас

Лига конференций УЕФА: Зиря в первом матче сезона сыграла вничью с Хайдуком

23 Июля 2025 22:06see347

Ночная атака ВСУ: вокзал и ГРЭС в Новочеркасске под ударами, есть раненые

23 Июля 2025 10:02see339

Главреда и продюсера Baza обвиняют в даче взятки им грозит до 12 лет

23 Июля 2025 13:22see315

Неприятности и невезение

23 Июля 2025 22:09see315

Империя смерти братьев Джансюзян в российском Ростове Фото

23 Июля 2025 09:20see310

Рашад Садыхов: Знаю, что судьи немного симпатизируют сопернику

23 Июля 2025 22:17see304

В Баку стартовал Dream FEST 2025

24 Июля 2025 01:08see292

Названы самые надежные подержанные немецкие кроссоверы

23 Июля 2025 11:06see241

Кадыров едва не утонул на отдыхе в Турции, сообщают местные СМИ Minval Politika

24 Июля 2025 20:59see235

DREAM FEST 2025 в Баку: Брендон Стоун с семьёй на красной дорожке

23 Июля 2025 20:32see216

Леди Гага упала на сцене

23 Июля 2025 16:48see206

СМИ: Пашинян дал старт антироссийским действиям в Армении

24 Июля 2025 12:16see183

Америка продаст Украине оружие на $330 миллионов

25 Июля 2025 00:59see181

Умеров рассказал о результатах переговоров с Россией

24 Июля 2025 00:07see180

Мост Трампа : всплыли новые детали по Зангезурскому коридору Minval Politika

23 Июля 2025 12:29see175

Атака дронов ВСУ: в российском Новочеркасске есть раненые

23 Июля 2025 08:52see159

Зеленский надеется на помощь Британии в вопросе с НАБУ и САП

24 Июля 2025 14:20see159

Зире vs Хайдук. Статистика матча

23 Июля 2025 21:32see158

Азербайджан увеличил доходы от экспорта фруктов и овощей

24 Июля 2025 16:31see158

ЦБА стремится приблизить AZIR к учетной ставке

23 Июля 2025 10:40see151
newsПоследние новости
Самые свежие и актуальные события дня