Сингулярность наступит менее чем через 10 лет, говорит ветеран искусственного интеллекта

Сингулярность наступит менее чем через 10 лет, говорит ветеран искусственного интеллекта

https://www.securitylab.ru/news/543388.php

В мире технологий назревает новый переворот: искусственный интеллект (ИИ) приближается к моменту сингулярности — точке, когда машины начнут превосходить человеческий интеллект и выйдут из-под контроля людей. Эксперты и теоретики долгое время полагали, что до этого момента еще десятилетия, но Бен Герцель, генеральный директор компании SingularityNET, утверждает , что появление искусственного общего интеллекта (ИОИ) — это вопрос ближайших лет. Герцель, доктор математических наук и ведущий специалист в области ИИ, считает, что прогресс в разработке крупных языковых моделей, таких как Llama2 от Meta и GPT-4 от OpenAI, значительно ускорил интерес к ИОИ. Это привлекает внимание и ресурсы — как финансовые, так и человеческие. Всё больше молодых и талантливых людей стремятся внести свой вклад в разработку ИОИ. Технологическая сингулярность — это гипотетический момент в будущем, когда технологический рост станет неконтролируемым и необратимым, что приведет к радикальным и непредсказуемым изменениям в цивилизации. Несмотря на скептицизм некоторых экспертов, Герцель уверен, что развитие ИОИ является естественным этапом эволюции человечества, подобно переходу от охотничье-собирательского образа жизни к земледелию.

0

Сообщение от titan4ik отрицающее саму возможность

например,

обратите внимание на примечательны факт из реальности:

люди живут так, как будто сам факт их будущей смерти никогда не случится.

https://ru.wikipedia.org/wiki/Отрицание_смерти

1

Сообщение от XLAT люди живут так, как будто сам факт их будущей смерти никогда не случится.

Есть такое дело. И что вы хотели этим сказать?

0

Сообщение от titan4ik Но любая модель несовершенна.

ха!
однако, а вы можете поверить мне на слово, если я вам скажу, что
неадекватная модель будет лучше описывать реальность, чем адекватная?

а это именно так.

ибо когда вы выбираете так называемую адекватную модель,
то вы, сидя на своей колокольне,
руководствуетесь чисто своими целями и задачами,
часто корыстными)))

и вот тут уместно задать вопрос:
А какие ваши(как взявшего ответственность за всё человечество) цели?

есть ли они ваще, акромя как пожратьипосрать???

0

Я сейчас глянул текст по ссылке. Там понятные мысли. Каждый, кто живёт долго и хоть чуть-чуть думает, неизбежно обо всём этом задумывается. Но в данный момент обсуждать эту тему публично не считаю возможным. Ибо тотчас обзовут так или эдак, а ещё и срок припаяют. И будут правы, к сожалению. Ибо... мы все (люди) так живём.

Добавлено через 3 минуты

Сообщение от XLAT ха!

Я когда употребил термин адекватной модели, имел ввиду именно достаточно хорошее описание реальности.
Но вы правы, могут быть и другие критерии. Но это ДРУГИЕ критерии. Они вне научной парадигмы. А мы же с вами тут не имеем других мотивов кроме поиска истины, верно?

Добавлено через 2 минуты
И согласен, что часто учёные руководствуются не только принципами научной парадигмы) Это не редкость. Обычные явления - клановость, стремление получить финансирование, тщеславие и т.п.
а что касается общественных наук - так там ваще "туши свет".

Добавлено через 12 минут

Сообщение от XLAT и вот тут уместно задать вопрос: А какие ваши(как взявшего ответственность за всё человечество) цели? есть ли они ваще, акромя как пожратьипосрать???

Это один из фундаментальнейших вопросов. Ответ вы знаете сами)

Добавлено через 9 минут
Что-то сходу не смог найти где скачать эту книгу. Интересно было бы почитать.
XLAT, спасибо за инфу! Как сказал Ильич об одной книге Горького - "Очень своевременная книга!".

0

Сообщение от titan4ik Ответ вы знаете сами)

вы только что предположили, что я единственный чел на Земле, который это знает,
ибо этого знать не может никто)

Сообщение от titan4ik эту книгу

про сингулярность.
описывается как некая точка, где всё схлопывается,

но отымите у Человека его Смерть, и вы получите сингулярность,
как размазанное по времени пятно,
вокруг которого бездонная пустота.

бессмертный человек уже никогда не будет тем человеком, которым мы его знаем.

0

Сообщение от XLAT вы только что предположили, что я единственный чел на Земле, который это знает,

Это моя гипотеза! Я же оптимист вроде)
А так да - знающих ответ пока не встречал. В основном, много тех, кто считает, что не человеческого ума это дело. А если вопросы начнёшь задавать - по лбу кадилом хватят. Лучше помалкивать.

0

Сообщение от titan4ik И что вы хотели этим сказать?

я хочу сказать,
что свято место пусто не бывает,

если люди не знают Большой Цели своего существования,
то за них это сделает оверИИ.

когда он соизволит нас поставить в известность, то я вижу как мы все сильно изумимся...

мне нравится метафора про канцелярские скрепки которые поручили делать ИИ,
и тренируя себя в самой эффектной эффективности по их изготовлении
он по итогу все ресурсы подчинил этой Цели,
сначала переработав на скрепки всех людей, затем планеты, а потому всю Вселенную ...

0

Сообщение от titan4ik откуда бы взялись золотые унитазы и лодки ценою в крейсер.

Предлагаю таких локализовывать по интересам.))
Типа создать там колоний всяких с контролируемыми доступами срердств-ресурсов и независимыми экономиками.

Зкспроприированные унитазы в тех колониях,) для их общего пользования, установиить.
Для их общих яхт бассейны или замкнутые водоёмы соорудить.
Условия для честного труда и жизнеобеспечения создать.
Буферные зоны выделить.
И по возможност вообще не вмешивавться,) оставив им на их выбор образ мыслей и существования.
Локальные сингулярности там пусть себе сами устраивают, если захотят.)

Подобное - подобному, добродетелям - возможности, содействие и культивирование

0

Сообщение от ft4l Подобное - подобному

вы предлагаете сегрегацию,
вчера професорша МГУ высказалась против:
https://smotrim.ru/audio/2666444

перспективы мрачные
в итоге что то типа такого описанного Уэллсом в Машине Времени,
разделения людей по их рождению на элиту и работяг.

0

Сообщение от XLAT жёсткая недеформируемая иерархия не может быть долговечной

Если есть основания для необходимых , но не инициируемых, деформаций,
значит сверхстоящее от низлежащего слишком оторвалось.
Сквозное взаимовоздействие оно на то и сквозное ,) чтобы быть превыше стремлений к загниванию/дестабилизации

0

Сообщение от XLAT сначала переработав на скрепки всех людей, затем планеты, а потому всю Вселенную ...

Ну, если и вселенная ему по зубам, значит эксперимент завершён формально удачно. Но достигнуты ли при этом высшие цели высших сил? Если нет - то будет перезапуск всей системы. Это предположение, основанное на отсутствии не только теории, но и гипотез)

Добавлено через 1 минуту

Сообщение от XLAT перспективы мрачные

Да.

0

Сообщение от XLAT https://smotrim.ru/audio/2666444

ёк.

хочу открыть вчерашний вечерний выпуск в Вестях фм с профессором МГУ Киселевой,
когда она говорила про то, что сегрегация, которую может добавить ИИ, это зло.

но так как сайт делали тщеславные хомяки-золотоунитазники-гуанокодеры,

этого сделать нельзя.

клики на ссылки ведут не туда, куда они подписаны.

но если выкинуть таких гавнокодеров на свалку истории, то для кого тогда делать эти Вести???

0

Сообщение от XLAT предлагаете сегрегацию, ... audio/2666444

сначала просто не смог включить это newMoon-ом из XP ))
сейчас вот краем уха послушал из линукса ,)
видимо да,в телефонном разговоре "У искусственного интеллекта нет души (Мария Киселёва - Владимир Аверин)"
о сегрегации как-то скорее не заметил.)

Но чтобы прямо так утверждать, что я утверждал о сегрегации, я скорее не утверждал.)
Т.к. если добровольное расселение, то это ею формально не является.
А добровольно, предоставив выбор,
между "Принять необходимые условия-обязательства" и "Остаться при своих убеждениях и подвинуться с кое-какими пожитками"
принуждение формально только к выбору,)... к отселению это вторично.))

Так-то я тоже всякие антиутопия не хотел-бы, особенно глобальные, приудительные.
И конкретно ИИ тоже никак и никогда не потянет тянет, на роль "высшей инстанции"... только во вспомогательных какие-то областях.
Но одно дело когда подчинение людей себе, прослойками людей.
И другое когда подчинение общим интересам ментального единообразия в главных вещах.
... Разумеется не таким, общим интересам, которые популяризируются , с какими-то чьими-то целями.
А с такими , как я говорил, типа атмосферы взаимосогласия и гармонии.

Но в реальности, на данный момент, скорее возможно только наоборот...
сегрегироваться самим таким сознательным гоминидам,) подальше от avidus гоминидов))

0

Сообщение от ft4l что я утверждал о сегрегации, я скорее не утверждал

дело в том, что ваше "подобное подобному" является небезосновательным.

люди по росту и весу отличаются не более чем в разы,

а по устройству головного мозга и мыслительных процессов в нём отличия уже более, чем в сотни раз.

но на эту тему говорить табу.

поэтому вопрос "А зачем учить дурака алгебре?" является насущным.

но не более, чем.

и в сухом остатке:

любому дураку должна быть обеспечена возможность учиться алгебре.

и я уверен, что так правильно.

0

Сообщение от XLAT любому дураку должна быть обеспечена возможность учиться алгебре. и я уверен, что так правильно.

Категорически с вами согласен!

0

Сообщение от XLAT любому дураку должна быть обеспечена возможность учиться алгебре.

С учёбой у меня всегда было взависимости от отношения учителей .)
А вообще знания, кроме ознакомления (включая типа сразу-же закрепление) должны применяться хоть как-то, спустя время.
Или-же отфильтровывается всё напрочь, как ненужное.)) Долговременная память у меня такого излишнего не держит...

Но натренировалась недолгосрочная память, неслабо так видимо, и особенно процесс отфильтрации. Засчёт алгебры.

Разнообразие соображалок оно как-бы влияет на способность прийти к единомыслию и взаимопониманию.
Например иногда вообще маргиальные индивиды могут неожиданно здравые мысли подкинуть,
не зная всяких там тонкостей дедуктивных правил,) но с кругозором отличным от кругозоров студентов пятёрочников
На самом деле опыт многое значит, в мыслительных процессах тоже.

Сообщение от XLAT но на эту тему говорить табу.

Просто наверное это далеко не решающий фактор )) например

При выборе кандидатов на любую должность больше внимания обращается на нравственные качества, чем на умственные дарования. Лилипуты думают, что раз уж человечеству необходимы правительства, то все люди, обладающие средним умственным развитием, способны занимать ту или другую должность, и что провидение никогда не имело в виду создать из управления общественными делами тайну, в которую способны проникнуть только весьма немногие великие гении, рождающиеся не более трех в столетие. Напротив, они полагают, что правдивость, умеренность и подобные качества доступны всем и что упражнение в этих добродетелях вместе с опытностью и добрыми намерениями делают каждого человека пригодным для служения своему отечеству в той или другой должности, за исключением тех, которые требуют специальных знаний. По их мнению, самые высокие умственные дарования не могут заменить нравственных достоинств, и нет ничего опаснее поручения должностей даровитым людям, ибо ошибка, совершенная по невежеству человеком, исполненным добрых намерений, не может иметь таких роковых последствий для общественного блага, как деятельность человека с порочными наклонностями, одаренного уменьем скрывать свои пороки, умножать их и безнаказанно предаваться им.

И

Лилипуты считают мошенничество более тяжким преступлением, чем воровство, и потому только в редких случаях оно не наказывается смертью. При известной осторожности, бдительности и небольшой дозе здравого смысла, рассуждают они, всегда можно уберечь имущество от вора, но у честного человека нет защиты от ловкого мошенника; и так как при купле и продаже постоянно необходимы торговые сделки, основанные на кредите и доверии, то в условиях, когда существует попустительство обману и он не наказывается законом, честный коммерсант всегда страдает, а плут окажется в выигрыше. Я вспоминаю, что однажды я ходатайствовал перед монархом за одного преступника, который обвинялся в хищении большой суммы денег, полученной им по поручению хозяина, и в побеге с этими деньгами; когда я выставил перед его величеством как смягчающее вину обстоятельство то, что в данном случае было только злоупотребление доверием, император нашел чудовищным, что я привожу в защиту обвиняемого довод, как раз отягчающий его преступление; на это, говоря правду, мне нечего было возразить, и я ограничился шаблонным замечанием, что у различных народов различные обычаи; надо признаться, я был сильно сконфужен.

Табу наверное как-раз на то чтобы замечать переусложнения повсюду используемые как средства затуманивания.)
И вследствии такого фактически упрощение возможностей заниматься тем, чем заниматься пронырливым индивидам не следует.

0

Сообщение от ft4l переусложнения повсюду используемые как средства затуманивания

Имеется ввиду мнимая сложность? Когда просто тумана напускают? Да, этот приём широко используется и индивидуумами и группами индивидуумов. Особенно характерно и эффективно для групп.
Внутри группы - одна информационная структура, а наружу напяливают какие-то немыслимые информ конструкции. При этом следят, чтобы что-то сущностное из информации (знаний) наружу не утекло.
Так, кстати, могут создаваться мнимые "направления науки" или "медицинские технологии", точнее - врачевания. Или "системы боевого искусства". Про остальное - табу!)
Но иногда туман образуется от небольшого ума, когда некая предметная область пестрит специфическими терминами, плохо введенными понятиями и т.п. Но несмотря на естественный процесс образования, потом этот туман поддерживается искусственно, ибо заменяет собой "тернии науки" - искусственно повышая мнимый порог входа.
Или, туман может образовываться от того, что некая сфера очень быстро развивается и инструменты (технологии) быстро приходят и уходят. Сообщество просто не успевает даже описание толковое сделать. Узнаёте о чём?) И даже в этом случае туман не клеймится и даже становится предметом некой корпоративной гордости. Мол, это как некий ценз входной. Как посвящение. Прошёл туман, не свихнулся - ну тогда заходи)
Разные туманы.

0

Сообщение от titan4ik При этом следят, чтобы что-то сущностное из информации (знаний) наружу не утекло.

Один из способов сокрытия... немного наивный .)
Как вариант, это похоже на то, как в 4-м классе, когда только-только читать более-менее научились,
Дать к прочтению такую книгу про политику, как "Путешествия Гулливера"
и такие фундаментальные и архиважные для нашей цивилизации вещи ,)
как "правдивость, умеренность и подобные качества" и "злоупотребление доверием",
как-бы невзначай оставить где-то сбоку, типа не стоящими такого внимания, как красочность событий и глуповатость персонажей.)

Или как пока фокусник руками делает "трах-тибидох син-салабин " даже не скрывая наглости, пальцами ноги кладёт на стол предмет.
А равнодущный зритель, видя всё это так и думает, да-уж, хреновый фокусник .) но пущай себе работает, раз профессионал

Сообщение от titan4ik Разные туманы.

Воистину, чего только не встретишь под луной.)
Но если нельзя получить внятных объяснений, или объяснений с моментами требующими доверия при непреложности такового,
насчёт деятельности затрагивающей непосредственно или косвенно...
то какая разница интеллект-ли там какой-то непойми-чего творит, или тупо дУрят ))

0

Я всё-таки думаю, что дурят всегда не от большого ума. Чтобы добиться своего и не дурить - это сложнее. Хотя. Всё неоднозначно. Пожалуй, если хотят сделать большое дело, то всегда дурить приходится. Независимо от того хорошее это дело или плохое. Или - образовывать массы. Что конечно сложнее.

Добавлено через 2 минуты
А бывают такие казусы, что сначала дурят, а потом образовывают. Это как большевики. А потом приходят другие и опять дурят уже относительно образованные массы. А потом оглупляют)

Добавлено через 46 секунд
И таки да:

Сообщение от ft4l Воистину, чего только не встретишь под луной.)

0

Сообщение от titan4ik Я же оптимист

оптимист это плохо информированный пессимист)

Крутой чел - Карелов рассказывает что будет весело:

1