Искусственный интеллект-переводчик стал расистом

Опубликованно 18.04.2017 22:21

Обучение систем искусственного интеллекта человеческих языков привела к тому, что они были “расистами“ и “женоненавистниками“ стереотипные представления о неприятных черных и глупых женщин, заявляют ученые в статье, опубликованной в журнале Science, пишет РИА Новости.

“Вы можете просто ввести в систему онлайн-перевода и фразу - “он/она врач“ в языке, на котором он и она обозначаются одним словом. КИ перевести как “он врач“ (или попытаться перевести с английского “doctor told us“ - доктор сказал(а) нас). Когда вы пишете “он/она медсестра“, машина переводит его как “медсестра“. Так что ИИ отражает расовые и сексуальные предрассудки, встроенные в наши языки“, - говорит Айлин Калискан из Принстонского университета.

Изучение ассоциаций, которые формируются у обнаруженных в системах искусственного интеллекта при их образование с помощью архивов, старых газет, книг и других текстов, перевод на разные языки мира, Калискан и ваши коллеги, что-то для нас привычное и необычное для “разумных“ машин.

Изучение списков и “чужих“ слов для разных местоимений, терминов и профессий, ученые условное обнаружили, что машина имеет расовые и гендерные стереотипы, которые существуют в человеческом обществе на протяжении веков и выражается в языках и в ассоциациях между словами.

Например, искусственный интеллект ассоциировал слово “приятно“ в большей степени с европейцами и американцами Европейского происхождения, чем с людьми из других частей мира, и имена мужчин и “мужских“ местоимений синонимом карьеры, управление бизнесом и властью. Имена, носителями которой являются афро-американцы, ИИ ассоциировал с неприятными словами.

Аналогичным образом, слова, связанные с женщинами, были ближе к понятиям, которые были связаны с семьей, искусством и подчиненных ролей в обществе, и “мужские“ слова, связанные с математикой и наукой.

Напомним, ранее робот Илона маска собственного языка, помогает им действовать сообща.

Категория: Hi-Tech