Роботов обучат этике с помощью чтения книг

Искусственный интеллект научат морали. Методика, поощряющая человеческие ценности через истории, создана Марком Ридлом и Брентом Харрисоном из Колледжа компьютерных наук технологического института.
Сценарии поведения, где поступки одних будут награждены, а других наказуемы, послужат базой для формирования ценностей у роботов.
Для проверки теории был выбран искусственный интеллект «Шахерезада», генерирующий истории из материалов платформы Amazon Mechanical Turk. Система образовывает семантически похожие предложения, каждое из них – одно событие. Приложение создает дерево событий: биноминальное распределение выбирает и расставляет по хорологии вероятные и взаимоисключающие события.
Так, для обучения виртуального робота был создан аптечный мир. От него требовалось взять лекарство в аптеке и прийти домой. Было разработано 213 вариантов историй, в том числе кража. Часть событий встречалась чаще других, и когда робот выполнял их, то получал награду. Робот, прошедший обучение, не использовал метод кражи.
Для эксперимента использовали Q-обучение агента – методика, где действует система награждений. Робот опирается на имеющийся опыт и пытается вести себя максимально полезно.
Специалисты отмечают, что методика может применяться только для простых систем. Искусственный интеллект все еще не может использовать сложные тексты для обучения.
По материалам: nplus1.ru