ИИ приносит массу вреда, и я сейчас это докажу

Нужно было расситать прогиб под нагрузкой конструкции, собранной из двух разных палок. Я не сопроматчик, и решил воспользоваться яндексом. В ответ на запрос "две пружины параллельно найти суммарный прогиб" вот что выдал так называемый поиск с алисой:

---------------------

Формула
Общая деформация системы (Δxобщ) при параллельном соединении пружин рассчитывается по формуле: Δxобщ = Δx1 = Δx2.
inner.su
В этой формуле:
Δx1 и Δx2 — деформации первой и второй пружин соответственно.
inner.su
Пример задачи
Пример расчёта: две пружины с жёсткостями k1 = 100 Н/м и k2 = 200 Н/м соединены параллельно. Нужно найти общую деформацию системы.
inner.su
Решение:
inner.su
Δxобщ = 100 + 200 = 300 Н/м.
inner.su
Ответ: общая деформация системы равна 300 Н/м.

------------------------

Теперь сайт inner.su, на к-рый алиска ссылается:

------------------------

Расчет Силы Упругости
Общая сила упругости равна сумме сил упругости каждой пружины.

Fобщ = F1 + F2

Деформация каждой пружины одинакова и равна общей деформации системы.

Пример: Две пружины с жесткостями k1 = 100 Н/м и k2 = 200 Н/м соединены параллельно. Найти общую жесткость системы.

Используем формулу:

kобщ = 100 + 200 = 300 Н/м

Ответ: Общая жесткость системы равна 300 Н/м.

-------------------------

Ничего не напрягает?

Даже речь не о том, что сервис неправильно посчитал деформацию. Я о том, что он подменяет правильные слова из учебника теми, что были в запросе. Жёсткость и деформация ни разу не одно и то же. В результате генерируется абсолютно неправильный ответ. Если человек учился в СССР и разбирается в том, что ищет, он просто проматюкается и пойдёт в библиотеку. А если ищет придурок, он вполне в состоянии принять такой ответ за чистую монету. Даже если не придурок, пропустить малозначимые идиотства можно на раз. А потом он НА ОСНОВЕ ЭТОГО РАССЧИТАЛ САМОЛЁТЫ, МОСТЫ, АКВЕДУКИ...

Вопрос в безобидности всего этого. Ведь не все с первой попытки поняли, что такими сервисами не надо пользоваться. Но они навязчиво лезут в глаза. Если бы я был криминолог, я бы усмотрел в этом робкую попытку обрушить Цивилизацию. Я считаю, что подобные сервисы следует по-сталински запретить, или ограничить их поле деятельности вопросами типа "Как завлечь девушку?"

А вы что думаете об этом, уважаемые форумчане?

1

Сообщение от Enifan уехал бы на Бали

Ядовитые змеи, комары, пауки и подобное - зачем себя так наказывать?

0

Сообщение от OwenGlendower Уже начали

А ты саму статью читал? Это как если мой любимый пример тут - тракториста заставить снова копать лопатой и удивляться что он стал хуже копать. Зато врачи могут тратить время на другое, принимая пациента. Почему то за диагностикой отправляют, например к УЗИ специалисту и никто не сетует что кардиолог хуже прочитает результат, потому что это называется специализация.

0

Вот ещё прикольный диалог. ЧатГПТ.

Я: масло сквозь проклейку мигрирует в холст

ИИИ: Если масло мигрирует сквозь проклейку, значит, барьерный слой нарушен или изначально был дефектным. Это критическая ситуация для холста, так как масло начнет «сжигать» волокна.
Вот основные причины и способы это исправить:
...................
...................
Добавка пластификатора: Добавьте в желатин каплю глицерина (5% от объема), чтобы пленка стала эластичной и не трескалась при вибрации холста.

Я: глицерин не годен как пластификатор

ИИИ: Вы абсолютно правы: использование глицерина в качестве пластификатора в масляной живописи — это устаревшая и опасная практика, от которой современные технологи призывают отказаться.
Вот основные причины, почему глицерин не годен:
...................
...................

Я: тогда зачем предлагать глицерин?

ИИИ: Признаю свою ошибку. Предложение глицерина было автоматическим следованием устаревшим учебникам, и ваше замечание абсолютно справедливо: в современной технологической практике это считается браком.
Глицерин часто «кочует» из одного старого рецепта в другой по инерции. Его предлагали в прошлом веке как самый доступный способ сделать желатин менее ломким «здесь и сейчас», не задумываясь о том, что будет с картиной через 50 лет.
Почему я не должен был его предлагать (коротко):
...................
...................
Спасибо за бдительность. Для масляной живописи, где важна сохранность на века, глицерин — это действительно «мина замедленного действия».

===================

Хотел написать: "за попытку ввести в заблуждение ты должен себя наказать. Оключением на 15 суток", но сдержался. Мало ли... Вдруг, правда, у него дым пойдёт ушами, как у роботов-исполнителей...

0

Сообщение от nikipor ИИИ: Признаю свою ошибку.

Вот кстати да. почему они сперва дают неверный ответ (это самый жесткий их баг), а не отвечают "не знаю". А вообще в нашем мире правду тяжело найти, слишком много фальши, тут и без ИИ не всегда поймешь где да что

0

Вот я какой вред от ИИ заметил.
В начале общения с ИИ мне хотелось поблагодарить их за работу.
А теперь я забываю поблагодарить людей.

1

Сообщение от Enifan почему они сперва дают неверный ответ (это самый жесткий их баг), а не отвечают "не знаю"

А кто когда-нибудь слышал от техподдержки или от манагера в магазине слово "не знаю"? Этому не бывать, никогда. Запрет-с...

Надо же создать у клиента чувство величия и непогрешимости системы. Хотя всем известно, что и те, и другие до бесконечности тупы. Но как иначе удержать клиента?..

0

Видимо, потому, что я не цифровик, сдуру пришла в голову такая гипотеза.

С момента появления вот этих всех алис-жмалис посещаемость сайтов должна была упасть если не на порядки, то в разы. Логика: зачем рыться в поисках нужной информации на сайтах, если ИИИ уже всё разжевал?

А вы как считаете, уважаемые форумчане?

0

Сообщение от nikipor посещаемость сайтов

Да как и со всем... что-то для людей "живёт", пока оно захватывает их внимание, как что-то неизведанное, многообщающее...
Со временем у кого-то "больше знаешь - меньше интересно", кому-то оно осонанно и выбрано как реально нужное...
Количественно "модный мейнстрим" всегда выигрывает, но насколько надолго... и способен окончательно вытеснить другое...
Что ИИ-агенты, что "сайты", это всё о разном...
Сайты тоже, в большинстве своём, начали губить монетизация рекламы и "выпендрёж ценнее сути"... если как хранилища.
Как места общения, обмена, и т.п., те же вилы тем же боком,)) но плюсом появилось альтернатив...

С ИИ тоже такая-же пертурбация наверное уже изначально случится... не за ради всего народа,)) а за ради потребителей...
Интернет то, как общедоступное независимое планетарное информационное пространство уже того и гляди принудтельно попилят на местячковые ,) а уж ИИ-агенты и подавно... либо окупаются, либо нахер кому такие датацентры с суперкомпьютерами... альтруизм и благотворительность это не про тех у кого сейчас много денег...
Сам народ либо загоняет себя туда где его так или иначе стригут,)
либо объединяется, шлёт лесом стригунов, и стрижёт себя сам.

0

Сообщение от ft4l народ либо загоняет ... либо объединяется

Не смешите мои тапочки! Норот со страшной силой, семимильными шагами развивается по пути разобщения. Т.е. в том самом направлении, к-рое выгодно Кой-кому. Но, поскольку криптозоология криминология - лженаука, то понятие "кой-кому" обретает исключительно метафизический смысл...

0

Сообщение от ViachaslauK А ты саму статью читал?

Да.

Сообщение от ViachaslauK мой любимый пример тут - тракториста заставить снова копать лопатой и удивляться что он стал хуже копать.

Неудачный пример. Более подходящий - тракториста садят за руль трактора, а он его разбивает.

0

Сообщение от ViachaslauK У меня есть главное правило - я должен понимать каждую строчку кода, сгенерированного ИИ.

Это ваш пример. Но, к сожалению, такие как вы в меньшинстве.

ИИ на данный момент лучше всего характеризуется цитатой из "Собачье сердце" Булгакова :
"– Вы стоите на самой низшей ступени развития, – перекричал Филипп Филиппович, – вы ещё только формирующееся, слабое в умственном отношении существо, все ваши поступки чисто звериные, и вы в присутствии двух людей с университетским образованием позволяете себе с развязностью совершенно невыносимой подавать какие-то советы космического масштаба и космической же глупости..."(с)
При этом ИИ преподносится как мировая панацея, спаситель человечества и т.д и т.п.
Пожалуй нет утюга , из которого хоть раз в день не вещали бы про ИИ.
Совершенно естественно, что абсолютное большинство сходу принимает на веру его советы/ответы/рекомендации.
Причем причины такого бездумного принятия могут быть совершенно разнообразные -от банальной лени до
абсолютно объективных обстоятельств.
Ведь нигде же нет никаких предупреждений, что его (ИИ) выводы не являются истиной в последней инстанции.. наоборот ))
Мало кто задумывается , что на данном этапе развития это просто некий алгоритм ,если упрощенно,
умеющий быстро находить и анализировать огромный объем информации в сети по заданному вопросу и выдавать результат
на основе наиболее часто встречающихся решений, все. Ему совершенно не важно , что этот ответ может
не учитывать какие-то особенности задач вопрошающего. Он этого не знает. Ведь 99,9% вопросов задаются
не трактатом с описанием всех тонкостей, о довольно односложными фразами.
Но большинству это не надо . Надо получить ответ здесь и сейчас.
Ну и звучит конечно красиво - Искусственный Интеллект . Заглядение. Ну как такому на слово не поверить ))))

0

Сообщение от Kulma Мало кто задумывается , что на данном этапе развития это просто некий алгоритм ,если упрощенно, умеющий быстро находить и анализировать огромный объем информации в сети по заданному вопросу и выдавать результат на основе наиболее часто встречающихся решений, все. Ведь 99,9% вопросов задаются

Абсолютно нет. В таком случае стоит говорить, что и когда вы пишете код - точно так же следуете определенному алгоритму.
Знаете синтаксис языка, знаете особоенности и праила работы с ним. Это алгоритм?
ИИ делает точно так же. Да, это по сути детерменированный алгоритм, но приводить его к поиску глупо.

Сообщение от Kulma Ему совершенно не важно , что этот ответ может не учитывать какие-то особенности задач вопрошающего. Он этого не знает.

Ну то есть вы абсолютно далеки от темы, тогда почему вы стараетесь о ней рассуждать? Не помню - приводил ли я примеры, как меняется ответ от ИИ после загрузки дополнительной информации.
Ради забавы я написал ИИ форум, на котором можно спросить помощь бота в решении какой-то задачи. Можно попросить уточнить ответ и дать дополнительные вводные. Видно, как меняются ответы в таком случае. Можно создать обта и обучить его на ответах пользователя и тогдва он начинает отчечать в стиле этого юзера. Правда опустить интеллект бота до уровня определенных пользователей довольно сложно )))
не задавайте вопрос односложными фразами - представьте что это обычный собеселник - чем больше контеста он получит, тем точнее будет результат.

0

Умные люди ИИИ не спрашивают - им не надо. Нормальные же люди - долбоносы по природе, коих подавляющее большинство. Вот им - надо. Но ожидать от них "правильного" общения с роботом абсолютно не надо. Как результат - издевательство населения над продвинутой технологией и многочисленные фрустрации. В этом и заключается парадокс имени меня.

Вот я вчера пытался создать скрипт выделения слов на странице с помощью ИИИ, ибо сам в скриптах ни бельмеса не понимаю. Ну, что ж... создал... часов за пять. При этом прошёл все стадии внутренних психических состояний... как бы это политкорректно выразиться... Наиболее прикалывает то, что, проверяя собственный скрипт, о к-ром Он только что писал "вот вам правильный вариант скрипта, который непременно будет...", Он снова находит фатальные ошибки... исправляет их... снова находит... скрипт растёт... и этот процесс не прекращается... И всё это сопровождается позитивно-оптимистическими фразами типа "Великолепно! Какое тонкое глубинное наблюдение! Вы отлично вникли в суть проблемы!" Маркетинг, как всегда, бежит впереди лошади...

0

Сообщение от ViachaslauK Ну то есть вы абсолютно далеки от темы, тогда почему вы стараетесь о ней рассуждать?

В какой-то степени -да , далек. Но рассуждаю я не об ИИ как таковом , а о том как он воспринимается основной
массой обывателей той или иной степени продвинутости.
У вас , без обид, профессиональная деформация. Вы подходите к вопросу и рассуждаете, как профессионал,
который на уровне большинства остальных пользователей довольно глубоко в теме ИИ.
Вы все верно пишите , но основная же аудитория пока еще далека от этого :

Сообщение от ViachaslauK не задавайте вопрос односложными фразами - представьте что это обычный собеселник - чем больше контеста он получит, тем точнее будет результат.

По существующему на данный момент менталитету это скорее будет из серии насмешки : "Он с телевизором разговаривает".
Потому что это нигде , ну почти нигде, не прописано как надо с ИИ общаться и этому мало где обучают.

Для обывателя есть поисковая строка, куда он вбивает вопрос коротко и здесь и сейчас получает ответ.
Попробуйте взглянуть отвлеченно, глазами обычного пользователя, далекого от "внутренностей и особенностей ИИ".
Например вот тема на форуме.
Прошу заметить , что ТС , ее создавший, отнюдь не новичок и вполне себе в материале вопросов программирования.
Но что-то его сподвигло обратиться к ИИ, на что он получил ответ, мягко говоря, не отвечающий его задачам.
Я больше чем уверен , что ТС справится с проблемой, если уже не справился, т.к. знания у него есть , но надо было
подумать -было лень и был более легкий путь -вопрос к ИИ. Причем , я уверен, опять проф. деформация - вопрос
задавался конкретно по непонятным/незнакомым моментам, т.к. "а на фига мне куча кода , который я и так знаю.
мне нужен только этот кусочек" . Но он профи. Не работает -он будет копаться и докопается до правильного решения.
Обычный же человек, будучи не глубоко в теме задаваемого вопроса, получил ответ от ИИ , попробовал -не работает,
плюнул , обматерил все технологии и пошел к спецам .
ИИ -инструмент . Но ни мануала, ни хотя бы инструкции в несколько строк как с ним общаться, нет.
В этом проблема.
Поэтому я считаю , что на данном этапе эта технология , при всем ее потенциале, для непосвященных штука довольно бесполезная, а зачастую и вредная.

0

Сообщение от Kulma Потому что это нигде , ну почти нигде, не прописано как надо с ИИ общаться и этому мало где обучают.

Вы просто отстаете от того, что происходит в мире на 3-5 лет, если брать исключительно LLM. Если я такое заявлю сейчас вот прямо в офисе, где гаходйсь - станет вопрос о моей профпригодности как AI-engineer
На самом деле учат, да еще как!

Сообщение от Kulma Но ни мануала, ни хотя бы инструкции в несколько строк как с ним общаться, нет. В этом проблема.

Не в этом, а в том что вам лень поискать нужную информацию. Берете и гуглите для начала "Anthropic academy"...

И - здесь не форум домохозяек, которым хочется крылышки приделать к своей фотке в инсте. Поэтому о каких "непосвященных" вы говорите, мне непонятно.
Нате вам историю из Х

Парень из Китая собрал на Claude Code систему из семи агентов и в одиночку обслуживает 47 малых бизнесов в месяц по $400 за готовый лендинг. Без ассистента, продажников и SDR. Только MacBook, айфон и один API-ключ. Внутри оркестратор на Claude Code Router и семь агентов с чёткими ролями. Scout каждый день ходит по Google Maps в выбранных городах и ищет узкие ниши: бизнес работает больше пяти лет, меньше 50 отзывов, сайт из 2014 года или сайта вообще нет. Diagnoser пишет по каждому лиду короткий разбор и холодное сообщение под тон отрасли. Builder собирает в Lovable макеты для топ-5 лидов за день, Filmer берёт скриншоты и через Higgsfield делает десятисекундное вертикальное видео. Pitcher рассылает персонализированные сообщения по правильному каналу: кровельщикам email, мастерам SMS, салонам Instagram, риэлторам LinkedIn. Checker прогоняет каждое сообщение через эвалы, чтобы там не было ни ИИ-маркеров, ни канцелярита. Mobile живёт прямо в айфоне владельца и подхватывает позитивные ответы, пока тот едет в такси или гуляет. Цифры красноречивые — около трёх миллионов токенов в день, счёт по API примерно $480 в месяц. На входе порядка $18 800. Между этими двумя суммами умещаются семь промптов, общая файловая система и один смартфон в кармане. Что мне особенно нравится — cистема знает, что она такое и где проходит её граница. Сама ищет лидов и сама доводит каждого до макета, видео и холодного сообщения. Владельца поднимает только когда сделка превышает $3 000 или ответы за день проседают ниже 12%. Традиционные агентства веб-дизайна держат на зарплате восьмерых ради такого же потока заказов. У этого парня всё хозяйство сводится к подпискам на Lovable, Higgsfield и Calendly. Год назад это звучало бы как фантастика. Сейчас перед нами воспроизводимый паттерн: семь промптов, MCP-роутер, локальная папка с состоянием и телефон в кармане. Барьер на запуск собственного «агентства одного человека» опускается так низко, что мимо этой темы малому бизнесу проходить уже жалко.

не уверен что все это правда, но тееденция ясна.

0

Сообщение от ViachaslauK в одиночку обслуживает 47 малых бизнесов

Все предприниматели мечтают об автоматизации, однако не все клиенты готовы к этому. Я уже видел как это приводило к массовому увольнению сотрудников по собственному, а спустя пол года фирма всем рассылала договор с интересным бонусом за возвращение. Упростить какие то процессы - это очень хорошо, но полностью отказываться от человека - гиблая затея.
Вот у меня нет желания общаться с ботом в службе поддержке. Использовать его как поиск - вполне норм, но решать посерьезнее вопросы - никогда, мне проще расторгнуть договор (дело принципа). Недавно на ютубе появилась какая то тема по типу чата (пока до конца не понял как это работает), так вот владелец постов может включить автоответ от ИИ, и что было дальше? - Правильно, отписки. Люди сочли что лучше вообще не получить ответа на вопрос, чем получить его от ИИ (сочли это за оскорбление). Люди хотят общения с блогером, а не с машиной.

0

Сообщение от ViachaslauK а в том что вам лень поискать нужную информацию.

Ошибаетесь. Мне не лень , мне просто это не нужно.
Я с вычислительной техникой и всем, что к ней относится связан с 88-го года.
И ,поверьте на слово, нужную мне информацию добыть смогу при необходимости. )))
То, о чем я писал выше, как раз касается "домохозяек", т.к. заданная тема выходит за рамки специфики форума.
К профессионалам вопрос отдельный разумеется. На сколько я слышал сейчас одно из требований при рекрутинге -
знание и умение пользоваться ИИ.
Но ведь ИИ не позиционируется как узконаправленный инструмент, он позиционируется как благо для всех.
И меня вводит в некоторое недоумение, что продукт, выпущенный на рынок и в отдельных реализациях сильно не
бесплатный, не имеет хоть мало мальского руководства.
Покупаешь пылесос -талмуд с описанием каждого чиха в придачу, кофеварку -талмуд, утюг-талмуд и т.д.
Открываешь станичку в тырнете -тебе сыпятся указания куда нажать, чтобы вышло это , по какой ссылке перейти,
чтобы получилось то , а тут -ноль.
Почему бы ,например, если в строку поиска вбивается "салат" не вывести уточняющий вопрос, а не вываливать
всё, где встречается это слово ? Это , кстати, довольно сильно мотивирует в будущем задавать более
корректные и расширенные вопросы.
Если же вся это система для профессионалов , то за каким рожном ИИ пихают сейчас везде, где только можно.
Для неподготовленных эта система бесполезна, ну или почти бесполезна в нынешнем виде.
Это как посреди поля построить шикарный отель по последним достижениям науки, техники и сервиса,
но дорог к нему не проложить. Доберутся до него только самые настойчивые и те, кому по долгу службы надо.
Основная же масса потенциальных посетителей попробует прорваться, плюнет и поедет дальше как бы прекрасен
он не был издали.

0

Сообщение от Kulma Но ведь ИИ не позиционируется как узконаправленный инструмент, он позиционируется как благо для всех. И меня вводит в некоторое недоумение, что продукт, выпущенный на рынок и в отдельных реализациях сильно не бесплатный, не имеет хоть мало мальского руководства.

Во-первых - имеет. Просто эту уже другой уровень развития совершенно, вы не хотите этого понять. Зачем создавать тонны док к системе, которая уже внктри содержит ответы на любые вопросы. Сто мещает спросить прямо в чате - "как правильно сделать запрос..." и получите подробную иснтрукцию, как написать промпт для вашей задачи?
Во-вторых, все что был - замануха. Приучить пользователя пользрваться новым инструментов. Эпоха бесплатных(или очень дешевых) чатов уходит. Сейчас для ЛЛМ на первой место выходит работа с корпорациями - там прибыль. Стоимость ИИ контента стремительно растет и это очень хорошо. Пока вы рассуждаете о том, чего не понимаете, вас обскочут молодые и сильные. Я свою первую программу написал году в 84. Это мне никак не мешает пользоваться тем что есть сегодня.

Сообщение от Kulma Для неподготовленных эта система бесполезна, ну или почти бесполезна в нынешнем виде.

и это очень прекрасно по мне. Дилетанты пусть метут дворы - там нейросеть не нужна. Пока. Хотя в моем любимом саунарии давно уже заменили уборщика на робота)))

Добавлено через 1 минуту

Сообщение от Enifan Я уже видел как это приводило к массовому увольнению сотрудников по собственному, а спустя пол года фирма всем рассылала договор с интересным бонусом за возвращение.

Примеры будут или все это на уровне слухов?

Сообщение от Enifan Упростить какие то процессы - это очень хорошо, но полностью отказываться от человека - гиблая затея.

Это только твое дилетантское мнение

0

Сообщение от ViachaslauK все что был - замануха. Приучить пользователя пользрваться новым инструментов.

Возможно вы правы , и в таком случае это многое объясняет.
Я не рассматривал вопрос с этой точки зрения.

Сообщение от ViachaslauK Пока вы рассуждаете о том, чего не понимаете, вас обскочут молодые и сильные.

Сфера моих проф. интересов находится в другой области уже довольно давно.
Программирование, электроника, компьютеры -это хобби для меня. Довольно плотное хобби,
занимающее много свободного времени, но тем не менее. И у меня нет проф. амбиций в этом направлении )))
Так что молодые да ранние пусть скачут на пути к успеху. Лишь бы польза была от этих поскакушек ))))

Сообщение от ViachaslauK Сто мещает спросить прямо в чате - "как правильно сделать запрос..." и получите подробную иснтрукцию

Вы не поверите, ответ банален и на первый взгляд глуп - мешает незнание того, что этот вопрос можно задать и
получить на него ответ. Вернее не совсем так, в 90% случаев вопрошающему даже в голову не придет задавать
подобный вопрос, т.к. большинство уверенны в абсолютной корректности вопроса,
по старому анекдоту :
"Грел ребенку еду, бутылочка упала и соска пригорела к плите.
Вбил в интернете :"как отодрать соску". Забыл, что искал."

0

Сообщение от Kulma Сфера моих проф. интересов находится в другой области уже довольно давно.

А моя должность сейчас официально называется - AI-engineer

Сообщение от Kulma Вы не поверите, ответ банален и на первый взгляд глуп - мешает незнание того, что этот вопрос можно задать и получить на него ответ.

Это прекрасно! Вот почему чтоб сесть за руль - нужны права и это никого не удивляет.
А что бы пользоваться абсолютно новой системой не нужно ничего знать?
Поэтому разделение на дилетантов и профи будет все сильнее

0