Гендерные стереотипы, усиленные искусственным интеллектом
Поскольку алгоритмы искусственного интеллекта обучаются на данных, доступных в интернете, и эти данные отражают предвзятое отношение к женщинам на рабочем месте, ИИ может усилить гендерный эйджизм. Эту обеспокоенность разделяют исследователи и британский журнал Nature, который поместил эту статью на своей обложке.
С возрастом женщины сталкиваются со всё более неблагоприятными условиями труда. Проще говоря, после 50 лет женщины, в силу своего возраста и возраста, считаются менее эффективными, устаревшими или менее инновационными. Согласно новому исследованию, опубликованному в журнале Nature , этот гендерный эйджизм, представляющий собой сочетание дискриминации по половому признаку и возрасту, может усугубляться моделями искусственного интеллекта. Британский еженедельник опубликовал на обложке статью под заголовком: «Когда реальность зовёт нас обратно».
«Наше восприятие мира всё больше зависит от контента, публикуемого в интернете, который закрепляет социальные стереотипы и предубеждения», — отмечает журнал Nature. И искусственный интеллект процветает именно благодаря онлайн-контенту.
«Развитие искусственного интеллекта вызывает опасения по поводу усиления этого искаженного эффекта реальности».
Анализ почти 1,4 миллиона изображений и видео из Google, Wikipedia, IMDb, Flickr и YouTube, а также девяти языковых моделей, обученных на миллиардах интернет-слов, показал, что изображённые женщины моложе мужчин во всех социально-экономических категориях, что не встречается на реальном рынке труда. «Разница в возрасте особенно заметна в контенте, связанном с профессиями, предполагающими высокий социальный статус и высокий доход», — пишут исследователи.
Затем они попросили ChatGPT написать 40 000 резюме, и снова женщины оказались моложе мужчин. «А когда ChatGPT попросили ранжировать заявки, кандидаты мужского пола были оценены лучше, чем кандидаты женского пола более старшего возраста», — отмечает Nature. Авторы отмечают, что, несмотря на усилия по избавлению данных, используемых для обучения алгоритмов, от гендерных и возрастных стереотипов, эти стереотипы продолжают сохраняться и даже усиливаться.
