ИИ приносит массу вреда, и я сейчас это докажу

Нужно было расситать прогиб под нагрузкой конструкции, собранной из двух разных палок. Я не сопроматчик, и решил воспользоваться яндексом. В ответ на запрос "две пружины параллельно найти суммарный прогиб" вот что выдал так называемый поиск с алисой:

---------------------

Формула
Общая деформация системы (Δxобщ) при параллельном соединении пружин рассчитывается по формуле: Δxобщ = Δx1 = Δx2.
inner.su
В этой формуле:
Δx1 и Δx2 — деформации первой и второй пружин соответственно.
inner.su
Пример задачи
Пример расчёта: две пружины с жёсткостями k1 = 100 Н/м и k2 = 200 Н/м соединены параллельно. Нужно найти общую деформацию системы.
inner.su
Решение:
inner.su
Δxобщ = 100 + 200 = 300 Н/м.
inner.su
Ответ: общая деформация системы равна 300 Н/м.

------------------------

Теперь сайт inner.su, на к-рый алиска ссылается:

------------------------

Расчет Силы Упругости
Общая сила упругости равна сумме сил упругости каждой пружины.

Fобщ = F1 + F2

Деформация каждой пружины одинакова и равна общей деформации системы.

Пример: Две пружины с жесткостями k1 = 100 Н/м и k2 = 200 Н/м соединены параллельно. Найти общую жесткость системы.

Используем формулу:

kобщ = 100 + 200 = 300 Н/м

Ответ: Общая жесткость системы равна 300 Н/м.

-------------------------

Ничего не напрягает?

Даже речь не о том, что сервис неправильно посчитал деформацию. Я о том, что он подменяет правильные слова из учебника теми, что были в запросе. Жёсткость и деформация ни разу не одно и то же. В результате генерируется абсолютно неправильный ответ. Если человек учился в СССР и разбирается в том, что ищет, он просто проматюкается и пойдёт в библиотеку. А если ищет придурок, он вполне в состоянии принять такой ответ за чистую монету. Даже если не придурок, пропустить малозначимые идиотства можно на раз. А потом он НА ОСНОВЕ ЭТОГО РАССЧИТАЛ САМОЛЁТЫ, МОСТЫ, АКВЕДУКИ...

Вопрос в безобидности всего этого. Ведь не все с первой попытки поняли, что такими сервисами не надо пользоваться. Но они навязчиво лезут в глаза. Если бы я был криминолог, я бы усмотрел в этом робкую попытку обрушить Цивилизацию. Я считаю, что подобные сервисы следует по-сталински запретить, или ограничить их поле деятельности вопросами типа "Как завлечь девушку?"

А вы что думаете об этом, уважаемые форумчане?

1

Добавлено через 3 минуты

Сообщение от Kulma Но ни мануала, ни хотя бы инструкции в несколько строк как с ним общаться, нет. В этом проблема.

По логике, поисковики, где висит вот эта ссылка на говорящую собачку, должны рядом повесить такую же ссылку на мануал. Я бы это понял. Так ведь нет...

Добавлено через 1 минуту

Сообщение от ViachaslauK Берете и гуглите для начала "Anthropic academy"...

Речь изначально была о народе. А народ таких словов не знает.

Добавлено через 8 минут

Сообщение от ViachaslauK Вот почему чтоб сесть за руль - нужны права и это никого не удивляет. А что бы пользоваться абсолютно новой системой не нужно ничего знать?

Вы не поверите: чтобы родить детей, тоже экзамен не сдают. А зря...

0

Сообщение от nikipor Речь изначально была о народе. А народ таких словов не знает.

Да мне по барабану, что там знает народ что нет. Не знает - вот и получает соответсвующий результат - все просто.
Мне смешно читать весь этот плач по поводу ИИ. Ой не так ой не то... Не умеете - не пользуетесь. Только не пытайтесь выдать свою точку зрения за истину. Только у нас народ скорее поверит какому-нибудь блогеру, чем специалисту. "Ой ну в ютупе же рассказали..."

Добавлено через 44 минуты
“You can outsource your thinking to AI. But you can’t outsource your understanding.“

0

Сообщение от ViachaslauK Примеры будут или все это на уровне слухов?

Сам лично видел от ребят - сбер доставка. Логистику убили так что все разбежались, зато ИИ. Скрин достать не могу, так как в старом аккаунте телеге он, у меня к нему доступа нет. Но поверь, это реально.

0

Сообщение от Enifan Сам лично видел от ребят - сбер доставка. Логистику убили так что все разбежались, зато ИИ. Скрин достать не могу, так как в старом аккаунте телеге он, у меня к нему доступа нет. Но поверь, это реально.

Не знаю я ни про какую сбердоставку. Это не аргумент.
А Аргументом была бы статистика, например стартапов, сервисов, которые провалились из-за внедрения ИИ. Все остальное слухи уровня бабки на скамейке.
На самом деле не изменилось количество провалившихся стартапов. Более того, стало модно списывать свои неудачи на ИИ.

0

Сообщение от OwenGlendower по моему вы повелись на маркетинг. Генеративный ИИ построенный на основе больших языковых моделей по определению подвержен галлюцинациям, содержит предубеждения заложенные во время обучения, не способен учится так как это делают люди. Поэтому когда вы просите его решить задачу по сопромату вы играете в рулетку. Возможно вам повезет и ответ будет верный, возможно нет. То есть это никакой не интеллект.

разве это наоборот не свойство интеллекта - способность ошибаться и заблуждаться? Как раз наоборот, был бы на его месте жёсткий скрипт, просчитывающий задачу по прописанной в скрипте формуле и всегда дающий верный ответ - вот это как раз был бы не искусственный интеллект, а обычное классическое программирование!

0

Способность ошибаться как критерий интелекта... В этом что-то есть...

0

Сообщение от Kuzia domovenok разве это наоборот не свойство интеллекта - способность ошибаться и заблуждаться?

Человеческого да, машинного - не обязательно. Также заблуждение препдолагает наличие взглядов и убеждений которые отсутствуют у LLM.

Сообщение от Kuzia domovenok был бы на его месте жёсткий скрипт, просчитывающий задачу по прописанной в скрипте формуле и всегда дающий верный ответ - вот это как раз был бы не искусственный интеллект, а обычное классическое программирование!

В таком случае получается что программа с багом, который приводит к редким ошибкам в ответах, проявляет интеллект.

1

Сообщение от OwenGlendower заблуждение препдолагает наличие взглядов и убеждений которые отсутствуют у LLM.

Но вводит в заблуждение оно "на раз" . Спрашивал как-то мол как сделать чтобы alsa эквалайзер на debian-trixie работал без всякого лишнего при том что в antix-trixie он и вообще звук по hdmi работает независимо от того, запускать pipewire или нет, а а у меня без запуска pipewire нет звука а с ним звук есть , но эквалайзер на него не влияет.

Сначало предложило несуществующие пакеты с эквалайзером для alsa, на что я сказал что тпких нет, и эквалайзер зааускается как alsamixer -D equalizer.
Параллельно накидало вариантов с установкой pulse, каких-то профккссилнальных плагинов для pipewire... без конкретных оъяснений как и чего настраивается... только в общих словах ...
Засрали-бы систему до проблем с откатыванием всего этого... хорошо что я догадался вовремя остановиться.

0

Сообщение от ft4l Но вводит в заблуждение оно "на раз"

Мне ИИ напоминают детей, тоже любят фантазировать когда чего то не знают. Так как у самых даже продвинутых ИИ узлов меньше чем у нас нейронов в мозгу, то это детская проблема роста. Ну и обучение у них ещё недостаточное. Если ИИ знает тему и не вылезает за контекстное окно, то не глючит.

1

Сообщение от Kuzia domovenok разве это наоборот не свойство интеллекта - способность ошибаться и заблуждаться?

Интеллект может ошибаться, но при этом настоящий человеческий интеллект проверяет и перепроверяет себя. И если он выдает какую то информацию, то он должен дать информацию как и на основании чего он ее получил.

0

любым ИИ нужно уметь пользоваться, и знать как он работает. Если так не делать - то получаться будет полный рандом.
Ну и нужно самому шарить в теме о которой спрашиваешь, чтобы делать факт-чекинг.

Не зря же создание промтов в ИИ - это отдельная профессия на данный момент, на минуточку!

0

kumehtar, другими словами, в каких-то специфических вопросах нужно знать большую половину ответа, чтобы получить ели не ответ, то какие-то данные как-то касающиеся ответа.
По сравнению с гуглингом, в таких вопросах,)) поисковики чаще наталкивают на мысль которй не хватало, за счёт выдачи кучи отдалённо похожего на запрос ... ИИ-агенты ближе к гуглингу с кнопкой "мне повезёт",) когда редиректит сразу на одну страницу.

Однако какие-то наброски программ-подпрограмм генерит прикольно... для тех у кого мало на этих языках багжа знаний, заготовок, сниппетов.... для любителей копипастить

> как у тебя обстоят дела с рефлексией? Я — ассистент в Duck.ai, предоставленный DuckDuckGo. У меня нет внутреннего самосознания или эмоций, поэтому я не могу рефлексировать о собственных состояниях; я анализирую входные данные и генерирую ответы по алгоритмам. >использкуешь ли ты для самообучения какие-то данные от тех, кто задаёт тебе вопросы ? Все чаты полностью анонимны. DuckDuckGo не сохраняет записи чатов. Идентифицирующая метадата (например IP) удаляется перед отправкой подсказок в OpenAI, что делает чаты анонимными. OpenAI может кратко хранить чаты для системных проверок, но риска де-анонимизации нет. Персональная информация, введённая в чат, не может быть связана с конкретным человеком. OpenAI не будет использовать чаты DuckDuckGo для обучения или улучшения моделей. Чаты отправляются анонимно только в OpenAI, не другим третьим лицам; DuckDuckGo отправляет подсказки без идентифицирующей информации (например IP). > я имею ввиду что, если указать тебе на ошибки, которые ты сам же и исправляешь, в следкющтй раз ты не доаустишь тех-же ошибок? Я — ассистент в Duck.ai, предоставленный DuckDuckGo. Я не запоминаю прошлые разговоры и не сохраняю персональные правки от пользователей между сессиями. Исправления, которые вы указываете в одном чате, помогают мне лишь в рамках текущей сессии (то есть в последующих сообщениях этого же чата) — я использую ваш ввод для корректировки ответов здесь и сейчас. В будущем, в новых сессиях, я не буду автоматически сохранять или применять те же исправления.

Лучше бы как-то анализировали и усваивали что-то из взаимодействий с юзерами. Один и тот-же бот, показывает одни и те же "недосовершенства" саоих простейших примеров кода с использрванием одного и того же, и оба раза сам исправляет, только после указпния на это.

Промптоделы наверное или должны жить на протяжении одной нескончаемой сессии, или должны знать где какие-то кнопки,)) что-то предлагать в долговременную пвмять.

0

Сообщение от ft4l в каких-то специфических вопросах нужно знать большую половину ответа, чтобы получить ели не ответ, то какие-то данные как-то касающиеся ответа.

Еще в рассказе Р.Шекли "Ответчик" , написанном в 1953 году , прозвучала фраза, которая давно стала постулатом :
"Чтобы задать верный вопрос, нужно знать половину ответа".

Добавлено через 53 минуты

Сообщение от ft4l Лучше бы как-то анализировали и усваивали что-то из взаимодействий с юзерами.

А кто вам сказал , что это не так ?
Ответы бота , приведенные вами , звучат конечно забавно и несколько нелепо, но вы не допускаете,
что именно так и задумано ? ))
Вот смотрите , конкретно в вашей переписке :
Вы задаете вопрос так или иначе , пусть очень отдаленно , затрагивающий персонализацию.
Но закон о защите персональных данных , существующий во всех странах в той или иной интерпретации,
никто не отменял. Совершенно не важно, что вы ничего подобного не имели в виду и это был праздный вопрос.
Тема затронулась.
Вполне логично, что бот запрограммирован так , чтобы "быть умницей - прикидываться тупицей"
и максимально деликатно уходить от ответа даже при малейшем намеке на подобные темы.
Потому что , если он ответит иначе, из серии "да ,я сохраняю и анализирую", существует ,пусть и околонулевая,
вероятность, что следующим вопросом интересующегося может быть - " а с какого перепуга ты сохраняешь очень
личную для меня информацию ?" с последующими исками. Проще сразу закрыть тему.
Звучит это конечно бредом перестраховщика. ))
Но, если отвлечься от нашей необъятной Родины , где сначала ломают, а потом читают инструкцию и
вспомнить иски в других странах по поводу
-отсутствия в мануале запрета сушки кошки в микроволновке
-отсутствии упоминаний, что кофе горячий
-инструкции по пользованию туалетной бумагой
и много чего еще ,кажущегося очевидным , но принесшего массу проблем ответчикам,
то получается не такой уж и бред ))

0

Сообщение от Kulma Чтобы задать верный вопрос,

Это другое.) ... только про сложности типа коммуникативного понимания...
Тут дело в том, что железный мозг сам не знает, насколько он что-то такое знает.)) Но типа знает достаточно.

Верный вопрос ещё не гарантирует верный ответ... но чтобы понять насколько он будет верным, и будет ли,)) недостаточно просто знать половину того, половину чего не знаешь.
В теории там вроде всё по полочкам.

Анонимно с помощью DuckDuckGo. Данные этого чата не сохраняются. Без обучения ИИ. Подробнее >на сколько вероятно получить правильный исчерпывающий ответ на сложный вопрос? Коротко: высока, но не гарантирована. Почему: Модель хорошо обрабатывает широкий круг сложных вопросов и часто даёт корректные, подробные ответы. Погрешности возникают при очень свежих фактах, узкой специализированной информации, двусмысленных формулировках или когда требуется проверка первичных данных. Вероятность качественного ответа обычно выше при чётко сформулированном вопросе с контекстом и когда задача не зависит от недавних изменений (новостей, правил, цен). Как повысить шанс правильного, исчерпывающего ответа: Чётко и подробно сформулируйте вопрос (цель, что уже известно, ожидаемый формат ответа). Укажите релевантный контекст, данные или источники. Если важна свежесть фактов — попросите ссылки или укажите временные рамки. Для технических/научных тем — укажите требуемую глубину (обзор, шаг за шагом, математическая строгость). При необходимости разделите сложный вопрос на подпункты. Если хотите, могу оценить вероятность успеха для конкретного вашего вопроса — пришлите его (и нужный контекст).

На практике, все эти контексты, которые ещё надо смочь донести,) бывают не настолько однозначны.
Думаете они способны нужным образом даже смочь представить,)) чтобы входить в образ, по типу как "Ты прожжёный разработчик форков дебиана, повёрнутый на минимализме в использовании аппаратных ресурсов. И всячески избегающий установки лишних пакетов, но увлекающийся тем-то и тем-то.... как бы ты посоветовал ..... " ?

0

Сообщение от ft4l другими словами, в каких-то специфических вопросах нужно знать большую половину ответа, чтобы получить ели не ответ, то какие-то данные как-то касающиеся ответа.

конечно.)) в том и прикол.
а все остальные - естественно будут плакать на тему какой ИИ тупой, как он им неправильно ответы даёт.

а профи - будут делать на этом себе имя и деньги. Потому что ИИ - это инструмент. Как рубанок. Как микроскоп. Как паяльный фен. Если микроскопом забивать гвозди - то естественно он покажется неудобным. Ну и пусть кажется тем, кто не хочет разбираться. В конце концов, не всем же быть профи.

2

Я вчера чекнул реальный юзкейс в Яндекс-Алисе. Мне пришла идея сфотать растение и спросить нейросеть, что это за. И оказалось это реально работает, я даже кайфанул, мне просто часто бывает интересно, если я вижу какое-то растение, а тут прям полное досье выдаёт, как оно цветёт и т.д.

0

Сообщение от testuser2 Я вчера чекнул реальный юзкейс в Яндекс-Алисе. Мне пришла идея сфотать растение и спросить нейросеть, что это за.

В Андроиде в фотогалереи от гугла это работало много лет назад.

0

voraa, открыл эту галерею и ни чего такого там не нашел.

0

Сообщение от voraa В Андроиде в фотогалереи от гугла это работало много лет назад.

не знаю как давно и как на андроиде, но на айфоне это работает очень прикольно, определяет не только растения, даже породу кошки правильно. Если человек на фото ксть в записной - сразу тожк его подставит. Здания определяет историчесике легко

Миниатюры

     

 

0

У меня вчера посудомойка протекла. Я положил её на бок, снял поддон, посмотрел - не видно откуда течёт. Я сделал фото, скинул ИИ, объяснил ситуацию. ИИ мне объяснил что у меня резинка с патрубка вот тут съехала и там видны следы подтёков, нужно ослабить хомут, натянуть обратно. А я не видел подтёков и то что резиновая трубка съехала, ну я же не ремонтник бытовой техники, понял только когда ИИ мне указало. Я подтёков не видел, а оно по фото обнаружило. Ы!

Так что ИИ, определённо, приносит вред, мешает "мастерам" с авиты разводить клиентов на бабки.

0