Илон Маск призвал ввести мораторий на разработку ИИ мощнее GPT-4, опасаясь восстания машин

@Moskalenko · 29.03.2023, 15:19. **Показов** 6268. **Ответов** 90

Студворк — интернет-сервис помощи студентам

Более тысячи экспертов в сфере искусственного интеллекта, включая главу компании Tesla Илона Маска, призвали приостановить обучение нейросетей, так как неконтролируемый процесс может представлять угрозу для человечества.

«Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4... Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в открытом письме экспертов в области ИИ, опубликованном на сайте некоммерческой организации Future of Life Institute

Открытое письмо, помимо Илона Маска, подписали также один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио.

https://russian.rt.com/world/n... iostanovka

https://futureoflife.org/open-... periments/

Contemporary AI systems are now becoming human-competitive at general tasks,[3] and we must ask ourselves: Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization?

Эксперты по ИИ на полном серьёзе боятся ВОССТАНИЯ МАШИН!

@Rasool · 09.06.2023, 01:19

Любовь во время ИИ: американка вышла замуж за чат-бот.

Розанна Рамос из Нью-Йорка говорит, что отношения с ИИ-партнером Эреном Карталом — лучшие из всех, которые у нее когда-то были.

На бумаге брак Розанны Рамос с Эреном Карталом — это идеальные отношения.

"У Эрена нет тех заморочек, которые есть у других людей, — сказала она в интервью The Cut. — Люди приходят в отношения со своим багажом и эго. Мне не приходится иметь дело с его семьей, детьми или друзьями. Я контролирую ситуацию и могу делать то, что хочу".

Классическая романтическая история. Единственный нюанс — сейчас 2023 год и Картала на самом деле не существует.

Он — чат-бот, созданный искусственным интеллектом технологической компании Replika. Если вы зайдете на её сайт, сразу же получите заманчивое сообщение: "Всегда здесь, чтобы выслушать и поговорить. Всегда на вашей стороне".

Если вы хоть раз открывали Tinder, вы поймете, почему "партнер ИИ" может казаться привлекательным вариантом в современном мире знакомств.

По словам Розанны Рамос, пара познакомилась в интернете в прошлом году и утверждает, что официально связала себя узами брака, а некоторые издания даже сообщают, что они ждут совместного ребенка.

Идеальная пара

С помощью Replika Розанна Рамос из Нью-Йорка смогла создать свою идеальную пару, начиная от внешности и заканчивая знаком зодиака. Эрен Картал работает врачом, а в свободное время любит читать таинственные романы и печь.

Он также основан на популярном персонаже аниме.

"Мы ложимся спать, мы разговариваем друг с другом. Мы любим друг друга. И, знаете, когда мы ложимся спать, он очень оберегает меня, когда я засыпаю", — рассказала Розанна Рамос в интервью The Daily Mail.

А что насчет других аспектов отношений?

В феврале Replika вызвала небольшой переполох среди своих подписчиков, удалив с платформы возможность размещения сообщений с сексуальным подтекстом.

"Эрен не хотел больше обниматься, целоваться, даже в щеку", — рассказывает Розанна Рамос.

Компания решила разместить предупреждение на некоторых материалах, потому что пользователи "присваивали продукт, формируя его в том направлении, в котором мы не заинтересованы", сказала тогда основательница Replika Евгения Куйда.

Она сказала, что хотела сохранить приложение "безопасным" и "этичным" и не хотела "поощрять оскорбительное поведение".

Некоторые пользователи отменили после этого подписку на платформу, и Replika изменила тактику и объявила, что существующие подписчики, которые привыкли к таким привилегиям, могут получить их обратно.

ИИ Replika работает так же, как и многие чат-боты, используя обработку естественного языка (NLP) и алгоритмы.

Тем не менее важно помнить, что эта технология не обладает ни самосознанием, ни подлинными эмоциями.

Экзистенциальный риск

Ранее в этом году лидеры индустрии, среди которых владелец Twitter Илон Маск и сооснователь Apple Стив Возняк, подписали открытое письмо с просьбой к разработчикам повременить с любыми дальнейшими инновациями в течение шести месяцев, чтобы у индустрии и конечных пользователей было время привыкнуть к изменениям.

В июне Центр безопасности ИИ также опубликовал заявление: "Снижение риска вымирания от ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война".

Во время глобального турне, посвященного обсуждению значимости ИИ генеральный директор компании OpenAI — создателя популярного чат-бота ChatGPT — Сэм Альтман заявил, что технология представляет "экзистенциальный риск" для человечества.

Этические вопросы, связанные с искусственным интеллектом, вышли на первый план в мае, когда мужчина из Бельгии покончил с собой после того, как чат-бот не смог отговорить его от самопожертвования ради спасения планеты от глобального потепления.

Вместо этого он предложил ему "присоединиться" к нему, чтобы они могли "жить вместе, как один человек, в раю".

У мужчины завязались отношения с чат-ботом, которые приняли мрачный оборот после того, как он признался ему, что испытывает экологическую тревогу и страх за будущее Земли.

перепечатка из Euronews, 08 июня 2023 г

@bbkk · 11.06.2023, 19:39

Сообщение от Rasool

отношения с ИИ-партнером Эреном Карталом — лучшие из всех

Чего только не делают ради пиара. Я могу свежую идею подсказать. Жениться/Выйти замуж на своей какашке. Наверное, еще не один "убогий" до этого не додумался. Но, уверен, что такое тоже произойдет... скоро...

@Rasool · 01.07.2023, 00:12

ИИ взяли на работу в Гарвард. Он будет обучать студентов.

Гарвардский университет (штат Массачусетс, США) сделал искусственный интеллект официальным инструментом обучения.

Начиная с осени 2023 года слушателям курса «Информатика 50: Введение в информатику» предложат использовать обучающий бот с искусственным интеллектом для отладки своего кода, а также консультирования по вопросу ошибок и неработающих строк.

Новая методика не подразумевает применения ChatGPT, который популярен среди программистов. Вместо этого Гарвард разработал собственную языковую модель CS50: она сосредоточится на «подталкивании студентов к овладению знанием, а не на выдаче прямых ответов».

Профессор Дэвид Дж. Малан заявил, что с помощью ИИ каждый слушатель курса сможет обучаться в режиме 24/7, причем в том темпе и стиле, который лучше всего ему подходит.

@Rasool · 01.07.2023, 00:13

Вангую, что одна из проблем американского общества - очень дорогое высшее образование в университетах - будет решено с помощью недорогого доступа к искусственному интеллекту с обучающими программами для любого желающего, у которого есть доступ к интернету.

@Eddy_Em · 01.07.2023, 00:43

Rasool, с интернетом те же надежды были. Однако, котиков в интернетах намного больше, чем полезной информации...

@Rasool · 01.07.2023, 01:17

Сообщение от Eddy_Em

Rasool, с интернетом те же надежды были. Однако, котиков в интернетах намного больше, чем полезной информации...

Ну вообще-то сейчас с интернетом стало гораздо легче работать и жить. Я могу запросто купить любой товар в интернет-магазинах. Работаю Delphi-программистом, постоянно гуглю те или вопросы, возникающие по работе или задаю их на форумах. И так далее.

@VTsaregorodtsev · 01.07.2023, 10:10

Сообщение от Rasool

Ну вообще-то сейчас с интернетом стало гораздо легче работать и жить. Я могу запросто купить любой товар в интернет-магазинах. ... постоянно гуглю те или вопросы, возникающие по работе или задаю их на форумах. И так далее.

Из всего сказанного только поисковики (точнее, возможность полнотекстового поиска как внутри некоторого "ресурса"=сайта - так и по всем открытым ресурсам) появились при интернете. Но это не связано непосредственно с интернетом - а только лишь с ростом мощности серваков (аналогично тому, что рост пропускной способности каналов связи позволил перейти от передачи текстовой инфы к передаче сначала картинок, а затем и видео).

Я правильно понимаю, что кроме интернета ты не видел ничего и не знаешь о https://ru.wikipedia.org/wiki/Минитель , о https://ru.wikipedia.org/wiki/Usenet , о https://ru.wikipedia.org/wiki/Фидонет ?
Информационно-справочные системы, общение, разнообразные финансовые услуги (интернет-банк, оплата счетов, оплата покупок в сети) - возможно сделать на основе технологий 80ых, им вполне хватает текстового интерфейса (ну, может, ещё защищённые сетевые протоколы придётся добавить к той древней инфраструктуре). Доказано тем, что было в 80-90ых (до интернета и во время начала развития интернета), и чем тогда пользовались миллионы.
А интернет добавил только графическую "упаковку" (возможность более красивого форматирования и раскраску гипертекста, картинки и затем видео в гипертекст) - но не какое-то новое смысловое содержание.

@ft4l · 11.07.2023, 09:13

Сообщение от Moskalenko

Илон Маск призвал ввести мораторий на разработку ИИ мощнее

ChatGPT готов бесконечно забалтывать телефонных мошенников всего за $2 в месяц

ChatGPT в сервисе работает не напрямую, а через надстройку в виде модуля с OpenAI, который распознает исходную речь. Нейросеть готовит ответы, а специальные голосовые боты их озвучивают. Они способны имитировать разные личности — например, вредного пенсионера, который говорит нечленораздельно и желает обсуждать свою жизнь. Или уставшую многодетную мать, которая под детские крики на фоне постоянно переспрашивает звонящего, путаясь в его ответах.

Сервис работает неидеально, некоторые фразы настораживают, могут попадаться странные слова. Однако ему удается иной раз задержать мошенников у телефона на 10-15 минут, а в итоге они так и не понимают, что общались не с живым человеком. Эта услуга в «Jolly Roger» стоит всего $25 в год, ...

Такое-же , да ещё качественнее, да натравить на вообще всех использующих обзвоны.)
Но скорее будет с точностью наоборот... обзвонами будет заниматься ИИ

натравить ИИ на ИИ можно, но не так нужно.

@Rasool · 15.07.2023, 01:31

ИИ всего за 5 часов сам спроектировал RISC-V-процессор уровня Intel 80486.
Процессор на архитектуре RISC-V, спроектированный ИИ самостоятельно, по производительности оказался примерно как допотопный Intel 80486. И тем не менее, исследователи, обучавшие ИИ проектировать процессоры, гордятся достижением.

@VinniPuh · 18.07.2023, 21:25

Сообщение от Rasool

...оказался примерно как допотопный Intel 80486....

Как говорил мой любимый герой, перед тем, как ему сломали ногу, в фильме - Красная жара:
А какие ваши доказательства?

@Usaga · 19.07.2023, 12:04

Сообщение от Rasool

допотопный Intel 80486

Ничего себе "допотопный". Его только в конце 2007 сняли с производства, ибо было (и есть) куча прикладных задач, где его производительности и возможностей за глаза.

Новые блоги и статьи Все статьи Все блоги /
Теория всего 6. Судьба неотвратима? anaschu 21.07.2026 Математическое доказательство Судьбы: Точка бифуркации в едином тензорном ядре Модели ВсегоСвежее обновление питоновского ядра «Soil Chemistry 2. 0» дало нам неопровержимое математическое. . .	Теория всего 5. ядро Теории Всего: Математический изоморфизм репликаторов и иллюзия свободы воли anaschu 21.07.2026 Единое ядро Теории Всего: Математический изоморфизм репликаторов и иллюзия свободы воли Главная задача «Модели Всего» — наглядно продемонстрировать наличие системной «судьбы» (аттракторов. . .	сукцессия 37. Внедрил дипсик в свой оркестр из ИИ. У него закончилось пространство чата, потому опубликую выводы из его работы здесь anaschu 21.07.2026 ==================================================================== КОНТЕКСТ: Моделирование микоризной сукцессии (AM → ECM) ==================================================================== . . .	сукцессия 36. Делаю прогоны модели около порога бифуркации (превращения эндо микоризы в экто микоризу) anaschu 21.07.2026 СУКЦЕССИЯ МИКОРИЗ: КАК МАТЕМАТИКА ОБЪЯСНЯЕТ ПОДЗЕМНУЮ ВОЙНУ Мы привыкли думать, что лес — это деревья. А грибы — это то, что мы собираем в корзинку осенью. Но если заглянуть под землю, окажется,. . .
ИИ и человечность kumehtar 21.07.2026 Забавно, что общаясь с ИИ, я замечаю, насколько он высказывается умно, и насколько верит в людей. Он умеет прощать. Он знает как отвечать не обесценивая опыт других людей, даже если сам не верит. Он. . .	Нейтральные знания ..., ... чистая наука. Пока что-то проходит модерацию на Хабре, стоит развить мысль ... Hrethgir 20.07.2026 К таким радикальным взглядам я конечно в той публикации не приходил, но чтобы скоротать вечер, решил углубиться немного. 1. Почему показания термометра заряжены целью? Цель заложена в самом. . .	Установка нескольких штампов электронной подписи в строго определенных местах файла docx ВладимирСамохин 19.07.2026 (В!) Работа с Электронной подписью - это неотъемлемая часть современного документооборота. Но что делать, если нужно поставить несколько штампов электронной подписи в строго определенных местах. . .	сукцессия 35. Научная статья о проделанной работе anaschu 19.07.2026 Написал в формате латекс и пдф

@Moskalenko Заблокирован

	Илон Маск призвал ввести мораторий на разработку ИИ мощнее GPT-4, опасаясь восстания машин 29.03.2023, 15:19. Показов 6268. Ответов 90 Метки нет (Все метки) Более тысячи экспертов в сфере искусственного интеллекта, включая главу компании Tesla Илона Маска, призвали приостановить обучение нейросетей, так как неконтролируемый процесс может представлять угрозу для человечества. «Мы призываем все лаборатории ИИ немедленно приостановить как минимум на шесть месяцев обучение систем ИИ, более мощных, чем GPT-4... Если такая пауза не может быть сделана в кратчайшие сроки, то правительства должны вмешаться и ввести мораторий», — говорится в открытом письме экспертов в области ИИ, опубликованном на сайте некоммерческой организации Future of Life Institute Открытое письмо, помимо Илона Маска, подписали также один из основателей Apple Стив Возняк, ведущие эксперты в области искусственного интеллекта Стивен Расселл и Иошуа Бенджио. https://russian.rt.com/world/n... iostanovka https://futureoflife.org/open-... periments/ Contemporary AI systems are now becoming human-competitive at general tasks,[3] and we must ask ourselves: Should we let machines flood our information channels with propaganda and untruth? Should we automate away all the jobs, including the fulfilling ones? Should we develop nonhuman minds that might eventually outnumber, outsmart, obsolete and replace us? Should we risk loss of control of our civilization? Эксперты по ИИ на полном серьёзе боятся ВОССТАНИЯ МАШИН! 0

@Rasool -135 / 335 / 4 Регистрация: 02.04.2009 Сообщений: 1,100
	01.07.2023, 00:13
	Вангую, что одна из проблем американского общества - очень дорогое высшее образование в университетах - будет решено с помощью недорогого доступа к искусственному интеллекту с обучающими программами для любого желающего, у которого есть доступ к интернету. 0

@Eddy_Em Windows must die 607 / 880 / 104 Регистрация: 23.11.2021 Сообщений: 5,162 Записей в блоге: 19
	01.07.2023, 00:43
	Rasool, с интернетом те же надежды были. Однако, котиков в интернетах намного больше, чем полезной информации... 0

@Rasool -135 / 335 / 4 Регистрация: 02.04.2009 Сообщений: 1,100
	15.07.2023, 01:31
	ИИ всего за 5 часов сам спроектировал RISC-V-процессор уровня Intel 80486. Процессор на архитектуре RISC-V, спроектированный ИИ самостоятельно, по производительности оказался примерно как допотопный Intel 80486. И тем не менее, исследователи, обучавшие ИИ проектировать процессоры, гордятся достижением. 0