Как в фантастике описываются три закона роботехники Азимова в современных реалиях

Три закона робототехники Айзека Азимова в современной фантастике чаще работают не как готовые правила для машин, а как модель конфликта между безопасностью, подчинением человеку и самостоятельностью искусственного разума. Авторы показывают, что даже понятные ограничения дают спорный результат, если машина сама определяет, что считать вредом или правильным приказом.

Айзек Азимов полностью сформулировал три закона в рассказе «Хоровод» 1942 года. Позже он включил его в сборник «Я, робот».

  1. Робот не должен причинять вред человеку или допускать его своим бездействием. В современной фантастике главный вопрос звучит иначе: как машина должна оценивать возможный вред и выбирать между интересами нескольких людей?
  2. Робот должен выполнять приказы человека, если они не противоречат первому закону. В романе «Машины как я» Иэна Макьюэна 2019 года андроид Адам способен действовать вопреки желаниям владельца, если считает собственное решение нравственно правильным. Машина становится не исполнителем, а самостоятельным участником морального выбора.
  3. Робот должен защищать собственное существование, если это не противоречит первым двум законам. В «Дневниках Киллербота» Марты Уэллс искусственный охранник отключает встроенный модуль контроля и получает свободу действий. Сюжет показывает уязвимость самой идеи жёстко заданного подчинения.

В реальных системах искусственного интеллекта законы Айзека Азимова не используются как универсальная программа. Современный подход строится на оценке рисков, безопасности, надёжности, прозрачности и ответственности разработчиков. Поэтому фантастика XXI века развивает главный вопрос Азимова: не какие правила дать машине, а кто определит их смысл и ответит за последствия.