Нейросети принимают финансовые решения как африканцы из Танзании

23 сентября 2025 года

— Есть шикарный африканский деликатес.
— Вода, что ли?

    Короче, нейросетки принимают финансовые решения примерно как африканцы из Танзании. И это не всё, на что способны удалённые работники, которые используются как дешёвые рабочие руки для донастройки модели.

    Вот тут офигенное исследование.

    Протестировали 7 моделей (по 100 раз каждую) по тому же набору вопросов, что и людей из 53 стран (из крупного международного исследования INTRA). Там всякие сравнения типа стоит ли рисковать в определённых ситуациях, оценка потери 100 долларов по сравнению с радостью от выигрыша 100 долларов, 10 зефирок сейчас или 12 через год и т. п.

    Выводы:

— Когда дело касалось вопросов-лотерей (например, «заплатить 10 долларов за шанс выиграть 100»), модель ведёт себя рационально, почти всегда выбирая вариант с наибольшей математической выгодой (ожидаемой стоимостью).

    Но большинство людей не такие. Мы склонны к неприятию риска (лучше синица в руках) или, наоборот, к поиску риска (любовь к азартным играм).

    Плюс тупо не понимаем вероятности очень часто.

В сложных вопросах модели показывают нелогичность

    Когда вопросы касались выбора между деньгами сейчас и в будущем, нейросетки начали давать странные, экономически нелогичные ответы. Некоторые модели («GPT» и «DeepSeek») оценили будущие деньги как более ценные, чем деньги сегодня.

    Это всё равно, что сказать «Я лучше получу 100 долларов через год, чем 100 долларов прямо сейчас». В экономической теории, это — опасный идиотизм. Так как деньги, со временем, обесцениваются из-за инфляции и упущенных возможностей.

    То есть, например, 1000 рублей через год будет стоить максимум рублей 900 по нынешним меркам.

    Исследователи считают, что это показывает иллюзию мышления. Нейросетка не понимает модели времени и денег, а просто подбирает ответы на основе статистических закономерностей в данных, на которых её обучали. В простых задачах, это работает, а в более сложных — приводит к сбоям.

Нейросети больше всего похожи на жителей Танзании

    Наиболее вероятная причина — состав людей, которые обучают ИИ.

    Огромное количество низкооплачиваемой работы по разметке данных и модерации контента для корпоратов вроде «OpenAI» делается в странах Восточной Африки. Эти люди, по сути, учат ИИ, какие ответы хорошие, а какие — плохие. Языковые модели впитывают культурные и лингвистические особенности этих людей. Их суждения и стиль речи впечатываются в модель, из-за чего ответы ИИ становятся похожи на ответы жителей этого региона.

    Это — корреляция, а не доказанная причина. Чтобы доказать это, нужен доступ к закрытым данным о том, кто и как обучал модели.

    Предыдущие исследования показывали, что модели, по шаблонам принятия решений, чаще похожи на людей из западных — более образованных и богатых стран. А это исследование показывает, что всё сложнее и личность ИИ может зависеть от скрытой толпы работников, которые его обучают.

    Так что кто там влюблялся в «4o» — вы переписывались с немного африканским принцем. Скучаете — Танзания и Кения ждут вас!

    Автор: «Ряды Фурье».

Полезное на сайте:

• Скрипты падежи существительных
• Промпт: Как разобраться в любой теме с помощью нейросетей?
• Жадность поисковиков перерастает в глупость
• «ChatGPT» научился проходить тест «Я не робот» и обходить CAPTCHA
• Промпт: Как сделать анализ новой ниши?

Комментарии:

Максим:
Вононокак

battlekruiser:
вы не путайте
у людей это называется не до конца понимают, а у ии - иллюзия мышления

Зараза:
Короче, когда надо так - модель имеет культурный bias в сторону "белого человека", когда надо иначе - в сторону бедных африканских детей

DGN:
Вот да, простой пример. Есть факты, вероятность выиграть в рулетку по цветам 48%, а 90% бизнесов прогорают в первый год. При этом, те 10% бизнесов которые не прогорают, не факт что дают удвоение капитала. Я оцениваю их количество в 1-2%. До кучи, в рулетке я теряю только то что поставил, она не оставит меня в долгах и под следствием, в отличии от бизнеса.
Так почему мне все советуют начать бизнес, и отговаривают от поездки в ласвегас?

Ряды Фурье:
Пруф про прогорают, пожалуйста, с учётом очищенной от однодневок статистики.

Марат:
Дорого. Визу ещё нужно получить. Язык надо знать

Марат:
На Хабре есть один чел, который пишет интересно про всякие бизнесы

DGN:
Только выдача яндекса есть
По данным, представленным Росстатом, примерно 90% бизнес-проектов оказываются неудачными и прекращают свое существование уже в первый год после запуска.
https://pos-center.ru/journal/pochemu-biznes-zakryvaetsya-v-pervyy-god-raboty/
Я был оптимистичнее, считал что прогорает примерно 80%.

Максим:
Как у людей называется, когда человеку дали 100 примеров. и 101 вариант спрашивают у него решение, а он вообще не вкуривает что отвечать?)

Ряды Фурье:

Вот по стартапам, там 1,5% успешны. По реальному бизнесу первый проект да, около 80% шансов было по данным налоговой по закрытиям, второй проект уже повыше.

Konstantin:
Очищенной от однодневок я не встречал, а вот 90% помню. Да, возможно в первый год закрывается меньше, около 50%. Я предлагаю посмотреть на "вечные" т.е. оплачиваемые один раз услуги для бизнеса. Типа обслуживания расчетного счета или что то подобное. Так вот сколько раз я не считал, то водораздел находится в районе 2.5-3 лет. Т.е. крупный бизнес считает, что большая часть их клиентов закроется за это время.

Максим:
Сергей Абдульманов?)

Марат:
Не, там блог конкретно заточен про рассказы о бизнесах

Максим:
а, значит Славка Рюмин) Но говорят он бот()

DGN:
А они в какой момент считаются стартапами и что есть успех?
Вот я беру 50к$ и вкладываю их в концепт, раскрутку и всё такое прочее. Далее, инвестор набежал или не набежал, краудфандинг сработал или не сработал. Вот если не набежал и не сработал, это уже неуспешный стартап? Или успех считается с момента когда набежал и сработал и фиксируется на неком позднем моменте, ну там продажа стартапа, выход на IPO?

Марат:
Да, возможно он

Анатолий:
Когда до банкротства успел продать курс "как запустить успешный стартап"

Ряды Фурье:
А это статистика по инкубаторам же

Марат:
Инкубики?

DGN:
Потому что они дальше сосут деньги устроителей, кредиты и т.п. Ну я так вижу...

DGN:
Кубатура инков!

Анатолий:
И суккубики

YUH:
Потому что там как с бизнесом: скорее всего, ты просрешь деньги не играя на рулетке, а на алкоголь, продажных женщин и прочие радости жизни

YUH:
Есть кулстори про вечных стартаперов, будет время - напишу

Rinat:
прелесть недомысляших ИИ в том, что все вопросы к ним можно обратить к нам . Насколько мы понимаем то, о чем говорим? Насколько имитируем мышление в разных ситуациях? Как часто просто повторяем то, что где то слышали или компилируем из чужих мнений свое?

Александр:
Наверное потому, что проигрыш/выигрыш в бизнесе зависит почти исключительно от тебя самого, а в рулетке ты полностью отдаешься во власть рандома.

alexey:
https://www.astralcodexten.com/p/what-is-man-that-thou-art-mindful

YUH:
Вообще нужно смотреть не % выигрышей в самом казино, но и все сопутствующие.
Каков % людей, которые приезжали в Вегас играть в казино с одной суммой, а уезжали с большей?

dzmitry:
кто ж тебе такую инфу даст

саша:
самый интересный вопрос, конечно, по-прежнему, что определяют как мышление

Максим:
Ну, человек разумен и способен выбирать более корректные варианты из того что слышал. Либо способен решать задачи с которыми до этого вообще не сталкивался) Я могу видеть рекламу какого-то г. сотни раз, и услышать там то что это супер продукт - я от этого не стану так считать. А вот у нейросети выбор происходит совершенно иначе.

Rinat:
После чтения Канемана у меня стойкое ощущение, что у человека такая же нейронка внутри, только белковая и помощней. Она так хорошо имитирует мышление, что даж сама в это верит)

AAA:
«Что наша жизнь? Игра!»
(опера' ♠️ дама' )
Вы правы, безусловно, знаю я
Но те, кто правила писал слукавил явно
Крупье с игроком играет в психологическую игру
Его карман(казино) против вашего
Любая игра в долгую - это проигрыш(убыток)
Именно поэтому казино поощряет постоянных клиентов, а тех, кто выигрывает 'набегами' часто по тем или иным причинам заносят в чёрный список(даже если вы не шулер)
Засланных казачков(своих) и их выйгрыш громко пиарят.
Схем отмыва денег через казино достаточно, но они меняются и доступны в определенных кругах.
Это же касается и крупного бизнеса, ухода от налогов и торговле(игре) на бирже.
"Честная игра" придумана для простого люда, дабы создать иллюзию безграничных возможностей, иначе как ещё проще манипулировать народом, финансами и то, что народ считает своим.

dzmitry:
„Однажды я, Чжуан Чжоу, увидел себя во сне бабочкой — счастливой бабочкой, которая порхала среди цветков в свое удовольствие и вовсе не знала, что она — Чжуан Чжоу. Внезапно я проснулся и увидел, что я — Чжуан Чжоу. И я не знал, то ли я Чжуан Чжоу, которому приснилось, что он — бабочка, то ли бабочка, которой приснилось, что она — Чжуан Чжоу.

battlekruiser:
у меня такое ощущение после жизни с человеками

Mike:
Есть стадия:
- Болталка (предсказание слова и диалоги)
- SFT (обучение на карточках)
- RL (RLHF и потом чистый RL)
Если экономические задачки плохо решает, то наверно нет даже стадии SFT. А когда проходит все стадии, то получаем золото по проге, математике, физике. Сейчас уже не просто золото, а то топ 2-3 по миру.

DGN:
Ну, если считать себя богом, а мир детерминированным, то наверное так и есть.

Максим:
Никто не отрицает что у человека нейронка внутри) Просто она не только помощнее - а еще и устроена намного сложнее) Ну и еще куча бонусов сверху, которых у железного нету)

Александр:
Для успеха в бизнесе не нужно быть Богом.
Бизнес подобен убеганию от медведя. Для успеха достаточно не оказаться последним. Не боги горшки обжигают - народное.

DGN:
Но при случае, купите. Оно так работает. Примерно как "лесть работает даже если человек знает что это лесть".

DGN:
Не путаем "играть в казино", что есть или досуг такой или игромания или что-то ещё, с одиночным событием. У которого, вероятность, как будто бы не очень сильно маленькая.

Максим:
nope

Alex:
Если хотите экспериментально проверить какую ни будь теорию (в рамках закона) - переводите деньги. У меня казино в паре км от дома вдоль по улице. Язык знаю.

DGN:
Так перестанут пускать жеж...

Alex:
Только если начну выигрывать)

DGN:
Зашёл, выиграл и ушёл, это уже начал?

Denis:
Просто помните что когда вы слушаете совет от ллм, вам советует коллективный реддитор из страны третьего мира. Совет уже не кажется таким хорошим innit?

S:
А кто сказал, что максимизация матожидания это рационально? Помимо матожидания существует еще и дисперсия, которая не менее важна в принятии решения. Минимизация дисперсии не менее важная задача, ибо она может переехать не одного игрока в покер и разорить не одно казино

Timofey:
Что личность, что ИИ... Чем/кем обучен, то и вышло.

Roman:
Спасибо за качественный наброс! Вопрос конечно с подвохом. Экономист должен объяснить ошибочность через 2 минуты. Но пока экономистов не нашлось. Пусть физики поломают голову)
PS. я не экономист.
PS. А никто не пробовал этот вопрос задать llm?

Red Dragon:
чтобы почитать бред сивой кобылы?)))

YUH:
Для этого не нужно быть экономистом.
Считаем не удвоение капитала, а доходы минус расходы: с какими суммами люди приезжают в Вегас и с какими уезжают.