Icma.az
close
up
AZ
Menu

В Украине приняли скандальный закон

Ночная атака ВСУ: вокзал и ГРЭС в Новочеркасске под ударами, есть раненые

Трамп одобрил первый военный контракт для Украины

В США сравнили Т 72 с западными современниками

Адриан Муту: Карабах играет в адаптированную тики таку

Империя смерти братьев Джансюзян в российском Ростове Фото

В Баку демонтируют гостиницу Нахчыван каким будет новый проект

Рашад Садыхов: Знаю, что судьи немного симпатизируют сопернику

Трамп отправил Уиткоффа в Газу

Леди Гага упала на сцене

Земля ускоряет вращение: сутки становятся короче

Неприятности и невезение

Во Франции сборщики винограда трудились в адских условиях

Лига конференций УЕФА: Зиря в первом матче сезона сыграла вничью с Хайдуком

Раскрыты подробности встречи Ильхама Алиева с итальянским министром: Азербайджан отказывается от покупки металлургического завода в Таранто

В Баку стартовал Dream FEST 2025

Главреда и продюсера Baza обвиняют в даче взятки им грозит до 12 лет

Названы самые надежные подержанные немецкие кроссоверы

В Агдаме и Агдере горит обширная территория

DREAM FEST 2025 в Баку: Брендон Стоун с семьёй на красной дорожке

Искусственный интеллект против ругательств: ElevenLabs блокирует пользователей

Искусственный интеллект против ругательств: ElevenLabs блокирует пользователей

Icma.az сообщает, ссылаясь на сайт Vesti.

Компания искусственного интеллекта ElevenLabs, предоставляющая услуги клонирования голоса людям с нарушениями речи, оказалась в центре скандала после жалоб пользователей, которых блокировали за использование якобы неподобающих выражений.

Как сообщает Vesti.az со ссылкой на мировые паблики, люди с заболеваниями мотонейронов, такими как БАС (боковой амиотрофический склероз), со временем теряют возможность говорить. ElevenLabs предлагает им ИИ-инструменты, позволяющие «говорить» их собственными голосами, вводя текст вручную. Однако оказалось, что система модерации компании автоматически блокирует пользователей за определенные слова, даже если они не несут агрессивного или оскорбительного смысла.

Так, жительница Великобритании Джойс Эссер, которая потеряла голос из-за болезни, поделилась историей, как получила бан от ElevenLabs. Она редко использует свой голосовой клон, но иногда включает его ради удовольствия. В один из таких моментов она ждала мужа и, набрав на устройстве фразу «Давай, дорогой, шевели задницей!», услышала собственный голос.

На следующий день ElevenLabs отправила ей предупреждение о нарушении правил, а затем и вовсе заблокировала ее учетную запись. Джойс предположила, что слово «задница» автоматически попало под фильтр, но ожидала, что при модерации с участием человека ошибка будет исправлена. Однако компания не пересмотрела свое решение.

«Я только что вернула себе голос, а теперь они его у меня отняли... и всего через два дня после того, как я сделала презентацию для местной группы MND, рассказав, насколько замечательна ElevenLabs», — возмутилась Джойс.

Позже, после жалобы, ElevenLabs извинилась и восстановила её аккаунт, но так и не объяснила, что именно послужило причиной блокировки

Журналистам удалось выяснить, что в официальных условиях использования ElevenLabs нет запрета на ненормативную лексику. Однако компания оставляет за собой право «прекратить или приостановить» доступ к сервису, если посчитает, что контент нарушает закон или её внутренние условия.

В то же время другой клиент компании, Жюль Родригес из Майами, регулярно использовал голосовой ИИ с фразами вроде «Fuck you guys!», но не получал никаких предупреждений.

Компания признала проблему и заявила, что старается больше не блокировать пользователей за ненормативную лексику.

«Люди, живущие с БАС, должны иметь возможность говорить всё, что у них на уме, даже ругаться. У них есть много поводов для ругательств», — отметил Ричард Кейв из Ассоциации БАС в Великобритании.

Напомним, что в декабре прошлого года ElevenLabs представила новую модель Flash, которая преобразует текст в речь всего за 75 миллисекунд – одну из самых быстрых на рынке. Также компания внедрила функцию создания полноценных голосовых агентов, где можно задавать язык общения, приветственное сообщение и стиль поведения ИИ.

Скандал с блокировкой пользователей показал, что технологии искусственного интеллекта еще далеки от совершенства, а политика модерации требует доработки.

Оставайтесь с нами на Icma.az, чтобы не пропустить важные новости и обновления по данной теме.
seeПросмотров:107
embedИсточник:https://vesti.az
archiveЭта новость заархивирована с источника 15 Февраля 2025 19:27
0 Комментариев
Войдите, чтобы оставлять комментарии...
Будьте первыми, кто ответит на публикацию...
topСамые читаемые
Самые обсуждаемые события прямо сейчас

В Украине приняли скандальный закон

22 Июля 2025 15:03see446

Ночная атака ВСУ: вокзал и ГРЭС в Новочеркасске под ударами, есть раненые

23 Июля 2025 10:02see269

Трамп одобрил первый военный контракт для Украины

23 Июля 2025 01:53see263

В США сравнили Т 72 с западными современниками

22 Июля 2025 20:26see256

Адриан Муту: Карабах играет в адаптированную тики таку

22 Июля 2025 18:52see252

Империя смерти братьев Джансюзян в российском Ростове Фото

23 Июля 2025 09:20see234

В Баку демонтируют гостиницу Нахчыван каким будет новый проект

22 Июля 2025 22:57see199

Рашад Садыхов: Знаю, что судьи немного симпатизируют сопернику

23 Июля 2025 22:17see190

Трамп отправил Уиткоффа в Газу

23 Июля 2025 00:53see188

Леди Гага упала на сцене

23 Июля 2025 16:48see178

Земля ускоряет вращение: сутки становятся короче

22 Июля 2025 19:38see172

Неприятности и невезение

23 Июля 2025 22:09see166

Во Франции сборщики винограда трудились в адских условиях

22 Июля 2025 22:36see163

Лига конференций УЕФА: Зиря в первом матче сезона сыграла вничью с Хайдуком

23 Июля 2025 22:06see161

Раскрыты подробности встречи Ильхама Алиева с итальянским министром: Азербайджан отказывается от покупки металлургического завода в Таранто

22 Июля 2025 21:02see160

В Баку стартовал Dream FEST 2025

24 Июля 2025 01:08see159

Главреда и продюсера Baza обвиняют в даче взятки им грозит до 12 лет

23 Июля 2025 13:22see156

Названы самые надежные подержанные немецкие кроссоверы

23 Июля 2025 11:06see156

В Агдаме и Агдере горит обширная территория

22 Июля 2025 22:55see155

DREAM FEST 2025 в Баку: Брендон Стоун с семьёй на красной дорожке

23 Июля 2025 20:32see144
newsПоследние новости
Самые свежие и актуальные события дня