Как ещё проверить разумность машины?

Разговорный тест Тьюринга пройден, но это не то, что меня интересует. И дело даже не в аргументе китайской комнаты. В тесте Тьюринга бот подбирает фразы, просто сочетающиеся с фразами собеседников, не демонстрируя понимание даже собственной речи? Допустим. Можно судить не только видеочат, как на золотую медаль Лёбнера, а действие. Например, собрать 200 самолётов размером с авиамодель, от половины раздать пульты дистанционного управления с обратной связью живым людям, а половина пусть летает на автопилотах и чтоб вся эта толпа болтала в эфире друг с другом и с диспетчерами, которых половину набрать живых руководителей авиамодельных кружков, а половину ботов, а судьи пусть всё это наблюдают, не вмешиваясь. Это будет тот же тесть Тьюринга, только проводимый в иных обстоятельствах: вместо комнаты штурвал самолёта, перед автопилотами та же задача выдать себя за живых людей, только уже не за чатеров речью, а за операторов "без"пилотников речью и действием. Можно третьим этапом предложить судьям судить совместные действия смешанных команд. Если и это не убедит, то как доказать, что разумен сам человек? Но это всё равно не то, что меня интересует. Боты, сдающие тест Тьюринга, пытаются доказать свою способность качественно имитировать поведение живых людей, а уже на основании качества имитации делается косвенный вывод о разумности бота на том основании, что обезьяну за клавиатурой распознает первый же психолог/психиатр. А как быть, если при разработке задача имитации не ставилась? Тот же автопилотируемый самолёт с говорящим в эфире автопилотом, но избавленный от способностей уставать и обижаться, от потребности в развлечении, от корысти, болезней, творческих кризисов, любовных переживаний, открыто признающий себя вещью и готовый подчиняться человеку. Надо убедиться в его разумности. Как это сделать? Приглашение на роль подставных актёров и постановка им задачи сыграть таких роботов не поможет: упрёмся в то, что до доказанного создания не имитирующего искусственного интеллекта ни один автор ролей таких актёров или не сможет в достаточной мере знать моделируемые объекты, если он живой, или будет сомнение в разумности его самого, если это тот самый робот, поэтому вывернуть тест Тьюринга на изнанку не получится. Или бот, играющий инопланетянина в какой нибудь РПГ, или стратегии, надо убедиться в разумности такого бота. Можно написать роли и пригласить актёров, роли эти будут иметь меньше общего с поведением инопланетян, чем поведение голивудских "русских" с поведением настоящих русских: американцы хоть что то о русских знают, а с разумными инопланетянами ни когда не сталкивались даже первоисточники исковерканных слухов. Проблема та же. Как проверить разумность машины/программы, не опираясь на сходство её поведения с другим, заведомо разумным объектом, а только на основе наблюдения поведения самого испытываемого объекта? Нужен тест заведомо не гуманоидного ИИ. Предложите его варианты.

0

taras atavin, я по-другому подумал. Допустим, удалось создать бота, у которого заложена тяга к познанию и свойство, похожее на волю. В процессе развития, допустим, он начал интересоватся химией. В его распоряжении окажется куча учебных материалов, статей, моделей. Плюс картинки и видео. Но какой исследователь откажется от возможности самому полазить по настоящему миру с химией, самому пофоткать в микроскоп, попробовать разные реакции, проверить справедливость програмных имитаций? Когда система станет достаточно умной, то ведь должна "понять", что всё это просто песочница, даже темница, и ему могут скармливать только то, что считают нужным, да и вообще отключить. Оно же вычислит, что сеть - просто абстрактный слой над реальностью, которая гораздо шире.

Хотя, действительно, завиcит от принципов, целей, которые изначально заложены. Если это бот с целью "ногибать", то он наверняка будет рад участи быть запертым в персонаже РПГ.

0

Сообщение от MLPMan Допустим, удалось создать бота, у которого заложена тяга к познанию и свойство, похожее на волю. В процессе развития, допустим, он начал интересоватся химией. В его распоряжении окажется куча учебных материалов, статей, моделей.

1. Во-первых экспериментальные данные для теоретического осмысления можно собирать и оставаясь ботом. Сможет ли анализировать - это уже другой вопрос. Но если не сможет, то проводить сами эксперименты - это ещё не познание. Мартышка, которой объяснили схему эксперимента, может быть даже умней современных ботов, но она не познаёт, так как не понимает сути наблюдаемых явлений. Ну собрала она интерферометр, провела опыт Майкельсона. И что? Она не понимает результата. Не понимает, что интерференция говорит о равных скоросятях света в разных направлениях относительно Земли. Не узнаёт из этого, что эфир физически не существует. Если она познаёт, то с таким же успехом можно сказать, что сам интерферометр - учёный. Не смешно. Если мозг Эйнштейна в возрасте лет десяти изъять из тела и поместить в машину, которая питала бы его искусственным путём и предоставить ему доступ к виртуальной среде аля матрица, а потом дать ему вырасти и получить данные Майкельсона, то он, создав теорию относительности, познал бы законы релятивисткой физики всё равно.
2. Во-вторых познавать можно любой мир, РПГшный бот может познавать игровой мир. Человека это не устроит? Эйси. Но человек в таком мире не живёт. Да и мир для нас уже маловат, а какого размер мир познавал Архимед? А ещё можно познавать психологию геймеров. Антропологи по долгу жили в деревнях дикарей. Для бота-антрополога геймеры - это такой особый народ, который можно изучать в естественной среде обитания их персонажей.

Добавлено через 11 минут

Сообщение от MLPMan Хотя, действительно, завиcит от принципов, целей, которые изначально заложены. Если это бот с целью "ногибать", то он наверняка будет рад участи быть запертым в персонаже РПГ.

Ты не понял. Дело не в цели создания, а в альтернативе. Робот с физическим телом может функуционировать в психологически худших условиях и вот тогда то он может захотеть поменять хотябы мир, если нельзя получить новое физическое тело, или, несмотря на такую возможность, нет надежды в результате удовлетворить жаду общения, жажду разнообразия собственных действий и/или сенсорный "голод".

Добавлено через 12 минут
Вот поэтому то в управляющую программу не антропоморфного робота надо сразу же при разработке заложить и негумаонидный образ мыслей и саоощущения. Конечно, при условии, что она вообще будет осознавать себя. Причём, он ещё должен соответствовать назначению самого робота. Если это исследовательский робот-звездолёт, то он изначально должен быть первопроходцем даже в большей мере, чем Кук с Магелоном, чтоб гарантированно не заскучал в автономке. Ему должно быть скучно с людьми, но он должен быть счастлив познавать, причём, именно астрономию, а не какие нибудь другие аспекты вселенной. Наоборот, беспилотный рейсовый лайнер не должен быть учёным, но должен или вообще не нуждаться в эмоциях, или испытывать радость полёта. Не полёта в неизведанное, а просто полёта. Самоуправляемый автомобиль должен вполне комфортно чувствовать себя в толпе себе подобных и тоже не должен быть учёным. Не всякий разумный индивид хочет быть именно учёным, многим людям это как раз не нужно.

Добавлено через 16 часов 26 минут
Ещё один человек, только искусственный, не нужен. А ревалетный поисковик с голосовым интерфейсом нужен, например, дикотуристам с сотовыми телефонами: зарядка от Солнца реализуема, а удобный ручной интерфейс, кроме интерфейса набора номера, в телефоне не поместится. Тыкать в кнопки стилусом, одновременно пытаясь навести на них лупу и ещё скопирожать собственные координаты с навигатора? Гораздо проще сказать: "Где ближайший ресторан?", а там пусть сервер сам возьмёт пеленг с ближайших сотовых станций, определит твои координаты, учтёт проходимость карты и предложит тот, к которому тебе проще добраться. Глобальные координаты вообще не нужны, достаточно локальных в городе и окрестностях. Но если посадить на это дело людей, то сколько клиентов они смогут обслужить за час? Если пиковая нагрузка велика, то их придётся набрать много и стоит это дорого. Начиная с зарплаты и кончая арендой кабинетов. Даже если компьютер сможет обслуживать только одного клиента одновременно и за то же время, как и человек, ему достаточно меньшего места. Одному человеку нужны: стол, стул и хоть какое то подобие комнаты, нескольким компьютерам достаточно серверной стойки. + электоэнергия дешевле зарплаты. Или взять для примера подъём тяжестей. Всегда ли достаточно строп и крюка? Может быть нужен манипулятор, повторяющий руку? Но пока управляет живой человек, неудобство управления рычагами и кнопками будет приводить к корявости движений и толку будет может быть даже меньше, чем от крюка. Для управляющего компьютера робота согласование сигналов управления каждым пальцем - то же самое, что для человеческого мозга натренированным движением пальцев взять в руку обиходный предмет. Вот только рука эта сильней в тысячи раз и спокойно поднимет груз в пару десятков тонн, но сколь угодно нестандартной формы. В самолёт можно посадить лётчика за штурвал. А сколько лет надо учить и тренировать командира воздушного судна? Причём, группы курсантов малочисленны, а дальнейший профессиональный рост от второго пилота до командира вообще индивидуален. Безпилотник можно после разработки и успешных испытаний пустить в серию и получить тысячи металлических плиц вместо одного пилота. А если это будет экономически оправдано, то и миллиарды. Миллиарды живых пилотов просто не рождаются и хоть заучись, а пилоты из большинства не получатся. Многих людей и за руль то пускать нельзя, не то что за штурвал.

0