Законы роботехники

Азимов представлял себе Вселенную, в которой вы можете свести весь моральный мир (moral world) к нескольким простым принципам при наличии лишь некоторых рисков, которые и лежат в основе сюжетов его рассказов. В действительности Азимов полагал, что роботы — это инструменты и что эти три закона могли бы работать даже в реальном мире, если контролировать их использование. Несмотря на оптимизм Азимова у современных роботов нет следующих возможностей.

» Понять три закона роботехники.
» Выбрать действия согласно этим трем законам.
» Обнаружить и осознать возможное нарушение этих трех законов.

Некоторые могут полагать, что современные роботы действительно не очень интеллектуальны, поскольку им не хватает этих возможностей, и они правы. Однако Исследовательский совет инженерных и физических наук (Engineering and Physical Sciences Research Council — EPSRC), являющийся основным агентством Великобритании по финансированию исследований в технике и физике, рекомендовал в 2010 году пересмотреть законы роботехники Азимова применительно к реальным роботам с учетом текущих технологий. Результат получился весьма отличным от первоначальных установок Азимова. Эти пересмотренные принципы признают, что роботы могут даже убивать (в целях национальной безопасности), поскольку они — инструмент. Подобно всем другим инструментам, выполнение существующих законов и нравственных норм лежит на их пользователе-человеке, а не на машине, робот считается только исполнителем. Кроме того, некто (человек) всегда должен нести ответственность за результаты действий робота.

Принципы EPSRC представляют более реалистичную точку зрения на роботы и мораль, учитывая используемую сегодня технологию слабого искусственного интеллекта, но они могли бы также обеспечить частичное решение в случаях более совершенных технологий. В глава 14 обсуждаются проблемы, связанные с использованием беспилотных автомобилей, своего рода мобильных роботов, способных самостоятельно управлять автомобилем. Например, при рассмотрении проблемы вагонетки (trolley problem) далее в этой главе перед вами встанут возможные, хотя и маловероятные, моральные проблемы, которые поколеблют уверенность относительно автоматизированных машин, когда придет время сделать определенный выбор.