ООН: ИИ воспроизводит гендерные и расовые предубеждения

Искусственный интеллект продолжает воспроизводить гендерные и расовые стереотипы, а также способствует распространению онлайн-насилия в отношении женщин. К таким выводам пришли эксперты ООН-женщины, сообщает Vesti.az со ссылкой на доклад организации.

По данным, исследование 133 систем искусственного интеллекта показало, что почти в половине случаев алгоритмы демонстрировали гендерную предвзятость. В частности, языковые модели чаще связывали женщин с домашними обязанностями и уходом за детьми, а мужчин — с карьерой, бизнесом и лидерством.

В ООН подчеркнули, что подобные предубеждения возникают не случайно. Алгоритмы обучаются на больших массивах данных, созданных людьми, и вместе с информацией перенимают существующие в обществе стереотипы. При этом лишь 24 из 138 стран включили вопросы гендерного равенства в национальные стратегии развития искусственного интеллекта.

Согласно исследованию, почти каждая четвертая женщина из числа журналисток, правозащитниц и активисток сталкивалась с онлайн-преследованием с использованием инструментов ИИ. Еще 12% сообщили о публикации их изображений без согласия, а 6% стали жертвами дипфейков.

Эксперты также отмечают, что женщины по-прежнему недостаточно представлены в сфере разработки ИИ. По данным Международная организация труда, они составляют около 30% работников отрасли. В ООН считают, что без более активного участия женщин в создании и регулировании искусственного интеллекта существующие предубеждения могут закрепиться и в технологиях будущего.