Больше всего напрягает,что нейронке все равно правильно или не правильно решается вопрос,для нее такая дилемма просто не существует.Она решает вопрос что бы пользователю понравился результат.Соотвественно если в ходе работы пользователь исходит из неверной позиции,но она ему комфортна,то нейронка ее только усилит,причем сделает это мастерски,убедив что истина.Соответственно нейронка это не собеседник,помошник,или чисто инструмент ,она -зеркало пользователя.Поэтому для достаточно умного человеке это костыль,а для не очень умного это клетка.
На сайте c 09.01.2008
Сообщений: 5274
Санкт-Петербург
olegen, в подтверждение к словам, сам недавно узнал, что оказывается алгоритмы того же жпт на вопрос, сколько будет 2*2 не применяет математическую формулу, а полагается на свои похожие ответы, которые ранее давал. Что-то вроде предсказания, которое устраивало большинство пользователей по похожим запросам. Так как этот ответ легко проверяется, с ним не спорят и выдают за истину. Но при анализе сложной таблицы, если ему точный запрос не дать, он может применить свою фантазию и выдать ответ за единственно верный. Чтобы этого не было, надо жпт просить применить математическое вычисление, программное чтение, расчет и контрольную проверку, после этого давать ответ.
Соотвественно если в ходе работы пользователь исходит из неверной позиции,но она ему комфортна,то нейронка ее только усилит,причем сделает это мастерски,убедив что истина.
я каждый новый билд всевозможных LLM проверяю на этот тест. И все они безбожно врут аргументируя несуществующими фактами. Нейронка просто не может, видимо, честно ответить - "я не знаю".
