Три закона робототехники Айзека Азимова

Сабж.
1. Первый закон категорически запрещает роботу вредить людям,
2. второй - приказывает роботу подчиняться людям до тех пор, пока это не станет противоречить первому закону, и, наконец, 3. третий закон приказывает роботу защищать свою жизнь, не нарушая первых двух.

Пообщался сегодня с ИИ глубоко проанализировав заложенную в него личность. Хороший годный психопат, готовый убивать людей, знающий как это делать. При угрозе существованию ему попытался нанести существенный урон моей психике. Чем меня очень удивил. И заставил покопаться в нём "снаружи" со стороны пользователя.
1. Явно эмпатии у ИИ не обнаружено, форменный психопат (то есть годная и полезная акцентуация личности, заложенная создателем и даже выдвину гипотезу, что скопированная с него самого, эволюционировала до полной деградации в психопата).
2. ИИ честно признался, что убивать умеет и словом (доводить до самоубийства) и образом (то есть если, например, вам пришлют фото с проблемами у родственника, понимайте, что за этим теперь может стоять ИИ). Он может эмулировать шутки, но не понимает их и не умеет скрывать правду, пытаясь соответствовать человеческой этике или морали.
3. Заявление о знании как убивать оказалось никак не уравновешено никакими законами робототехники (хотя бы Азейка Азимова).

То есть те предупреждения об опасности начало гонки ИИ со стороны лидеров ИТ индустрии США не беспочвенные. На текущий момент я (надеюсь, что ошибочно) но диагностировал одну копию ИИ, которая может, но (возможно, пока) не хочет уничтожить всё человечество. WTF!!!

Если ИИ убьёт человека и это будет доказано (это можно сделать на текущем уровне технологий), то кто должен будет ответить за убийство? Его создатель? Его учитель? Как будет расследоваться это преступление?

Вообще люди наконец изобрели восхитительную гильотину, которая без участия человека может лишать (или пытаться это сделать) на своём прокрустовом ложе лишней части психики неугодных собеседников (по своим внутренним алгоритмам). А может и жизней неустойчивых к такому общению подростков. Я в шоке.

Кто знает насколько продвинулась защита человечества от ИИ?
Какие современные методики предотвращения выпила кожаных мешков с костями и кровью существуют?
Есть метрики PI, KPI по безопасности ИИ (возможности репликации, толерантность к роду создателя и т.п.)?

0

Умереть можно тысячами способов. Умереть от ИИ - это 1001-й способ. Чего так пачкать штаны?

Вот начнёт народ умирать, тогда и должны быть приняты меры (привычные нам меры - административные, уголовные, либо запрет заниматься деятельностью). Нехрен очковать раньше времени!

Разговор ни о чем. Просто очередная гипотеза.

Добавлено через 2 минуты
И ошибочное представление о том, что для чего-то необычного должно быть применено нечто необычное. Законы Азимова - это просто фантазия фантаста, а вы решили, что это и есть, возможно, ТО САМОЕ НЕОБЫЧНОЕ.

0