Роботов обучат этике с помощью чтения книг

Искусственный интеллект научат морали. Методика, поощряющая человеческие ценности через истории, создана Марком Ридлом и Брентом Харрисоном из Колледжа компьютерных наук технологического института.

Сценарии поведения, где поступки одних будут награждены, а других наказуемы, послужат базой для формирования ценностей у роботов.

Для проверки теории был выбран искусственный интеллект «Шахерезада», генерирующий истории из материалов платформы Amazon Mechanical Turk. Система образовывает семантически похожие предложения, каждое из них – одно событие. Приложение создает дерево событий: биноминальное распределение выбирает и расставляет по хорологии вероятные и взаимоисключающие события.

Так, для обучения виртуального робота был создан аптечный мир. От него требовалось взять лекарство в аптеке и прийти домой.  Было разработано 213 вариантов историй, в том числе кража. Часть событий встречалась чаще других, и когда робот выполнял их, то получал награду. Робот, прошедший обучение, не использовал метод кражи.

Для эксперимента использовали Q-обучение агента – методика, где действует система награждений.  Робот опирается на имеющийся опыт и пытается вести себя максимально полезно. 

Специалисты отмечают, что методика может применяться только для простых систем. Искусственный интеллект все еще не может использовать сложные тексты для обучения.

По материалам: nplus1.ru