[{"data":1,"prerenderedAt":313},["ShallowReactive",2],{"page-ru-\u002Fposts\u002Finvisible-language-tax":3},{"id":4,"title":5,"body":6,"date":300,"description":301,"duration":302,"extension":303,"meta":304,"navigation":305,"path":306,"robots":307,"seo":308,"sitemap":309,"stem":310,"tags":307,"toc":311,"__hash__":312},"content_ru\u002Fposts\u002Finvisible-language-tax.md","Невидимый языковой налог",{"type":7,"value":8,"toc":293},"minimark",[9,17,24,31,36,43,46,66,70,83,92,99,102,108,111,114,133,136,156,160,167,170,173,181,187,190,196,202,238,241,256,260,263,281,290],[10,11,13],"h1",{"id":12},"",[14,15],"binding",{"value":16},"title",[18,19],"posts-date-duration",{":duration":20,":date":21,"className":22},"duration","date",[23],"-mt-6",[25,26,27],"blockquote",{},[28,29,30],"p",{},"В статье я сравниваю русский и английский просто потому, что эти языки мне ближе всего. Похожие эффекты наблюдаются и для других языковых семей, но их масштаб зависит от модели и токенайзера. Данные по другим языкам можете посмотреть в источниках, прикрепленных в статье.",[32,33,35],"h2",{"id":34},"введение","Введение",[28,37,38,39],{},"2024 год. Офис в Москве. Мы с коллегами фронтендерами сидим, делимся эмоциями и методами как мы круто ускоряемся с помощью Cursor и sonnet-3.5. У всех примерно одинаковые советы и промпты, но одна деталь выделяется и именно на моем ноуте - общение с моделью на английском. ",[40,41,42],"em",{},"Зачем?",[28,44,45],{},"На тот момент я тренировал английский, и это, если честно, было главной причиной. Со временем я всё больше узнавал о том, как работают LLM, и начал подозревать, что выбор языка важен ещё и с технической точки зрения.",[28,47,48,49,53,54,57,58,65],{},"По своему опыту знаю, что многие русскоговорящие (и не только русскоговорящие) разработчики все также пишут промпты на своем родном языке просто потому, что ",[50,51,52],"strong",{},"\"так легче\"",". В этом посте я приведу цифры, которые показывают, что за эту легкость такие люди платят ",[50,55,56],{},"и деньгами, и интеллектом модели",", а также почему им в таком случае стоит забить на результаты любых бенчмарков типа ",[59,60,64],"a",{"href":61,"rel":62},"https:\u002F\u002Fartificialanalysis.ai\u002F",[63],"nofollow","Artificial Analysis"," и прочих.",[32,67,69],{"id":68},"пункт-первый-интеллект","Пункт первый - интеллект",[28,71,72,73,78,79,82],{},"Вот смотрите вы на результаты бенчмарков новой модели и радуетесь, что Opus 5.5 вырос на ",[59,74,77],{"href":75,"rel":76},"https:\u002F\u002Fartificialanalysis.ai\u002F?models=claude-opus-5-5%2Cclaude-opus-5#artificial-analysis-intelligence-index",[63],"7 пунктов"," относительно Opus 5. Если вы пишите промпты не на английском - ",[50,80,81],{},"этот результат для Вас фактически не имеет никакого значения",".",[28,84,85,86,91],{},"Взгляните на эту диаграмму из бенчмарка ",[59,87,90],{"href":88,"rel":89},"https:\u002F\u002Farxiv.org\u002Fhtml\u002F2503.10497",[63],"MMLU-ProX",":",[93,94],"posts-image",{"src":95,"width":96,"height":97,"alt":98,"caption":98},"\u002Fimages\u002Fllm-scores-per-language.jpg",1440,1438,"Лучшие результаты LLM на MMLU-ProX для каждого языка, , сгруппированные по регионам",[28,100,101],{},"А также таблицу из той же статьи (которую я немного визуально переделал, убрав другие языки):",[93,103],{"src":104,"width":105,"height":106,"alt":107,"caption":107},"\u002Fimages\u002Fmodel-perfomance-on-mmlu.jpg",1040,1384,"Model performance (%) on MMLU-ProX",[28,109,110],{},"Ради справедливости, исследование не новое и проводилось на уже относительно старых моделях (хотя самое свежее из того, что мне удалось найти). При этом GPT-4o показал на русском результат даже выше, чем на английском.",[28,112,113],{},"Но какие выводы можно сделать:",[115,116,117,124],"ul",{},[118,119,120,123],"li",{},[50,121,122],{},"В большинстве случаев большинство моделей лучше \"понимают\" и \"отвечают\" на английском",", гэп может разниться от модели к модели, но в среднем по больнице результаты отрицательные.",[118,125,126,129,130,82],{},[50,127,128],{},"Большинство бенчмарков, которые вы смотрите на Artificial Analysis производятся на английском",", при написании промптов на другом языке вы в теории можете получить результат такой же или даже хуже, чем на модели прошлого поколения. То есть в теории Opus 5.5 для ВАС может быть хуже Opus 5. В большинстве случаев конечно скорее всего прирост будет пропорционален, но как мы видим может произойти и наоборот, и самое страшное, что ",[50,131,132],{},"вы об этом никогда не узнаете",[28,134,135],{},"Ну и вкратце почему так происходит, постараюсь объяснить на пальцах:",[115,137,138,145],{},[118,139,140,141,144],{},"Модель обучается на данных, чем данных больше, тем более \"правильно\" будет отвечать модель (если сравнивать с аналогичной с меньшим кол-вом данных конечно же). ",[50,142,143],{},"Данных на английском языке просто статистически больше",", поэтому и точность ответов выше.",[118,146,147,150,151,82],{},[50,148,149],{},"Знания могут переноситься между языками неполно и ненадёжно",". То, что модель отвечает правильно на английском, не гарантирует правильного ответа на тот же вопрос на русском. Можно почитать об этом ",[59,152,155],{"href":153,"rel":154},"https:\u002F\u002Faclanthology.org\u002F2024.naacl-long.339\u002F",[63],"здесь",[32,157,159],{"id":158},"пункт-второй-налоги","Пункт второй - налоги",[28,161,162,163,166],{},"Вы любите налоги? Будете рады, если я скажу, что каждый ",[50,164,165],{},"промпт на русском стоит в среднем в 2.5 раза дороже","? Почему?",[28,168,169],{},"Токенайзеры. Промпт разбивается на токены, которые потом превращаются в векторы и над которыми происходят вычисления. Собственно стоимость той или иной модели обычно вычисляется двумя параметрами: цена на миллион токенов на input и на миллион за output.",[28,171,172],{},"Прикол в том, что эти токенайзеры максимально оптимизированы для обработки именно английского текста и одно и то же лексикографическое (одинаковые по смыслу) предложение может разбиваться на разное количество токенов.",[28,174,175,176,91],{},"Взгляните на эту диаграмму из этой ",[59,177,180],{"href":178,"rel":179},"https:\u002F\u002Faclanthology.org\u002F2023.emnlp-main.614.pdf",[63],"статьи",[93,182],{"src":183,"width":184,"height":185,"alt":186,"caption":186},"\u002Fimages\u002Faverage-number-of-tokens-by-language.jpg",490,312,"Среднее число токенов на предложение FLORES по группам письменностей (цифры над линиями это количество языков в группе)",[28,188,189],{},"Видно что кириллица занимает больше токенов чем латиница при одном и том же промпте. Вспоминаем в чем измеряется стоимость, а также что модель также отвечает на кириллице (т.е. возрастает кол-во input и output токенов).",[93,191],{"src":192,"width":193,"height":194,"alt":195,"caption":195},"\u002Fimages\u002Fmodel-cost-relative-to-english.jpg",960,642,"Стоимость семейства языков относительно английского",[28,197,198,199,82],{},"Этот эффект и называется ",[50,200,201],{},"The Invisible Language Tax",[28,203,204,205,208,209,214,215,218,219,223,224,227,228,233,234,237],{},"Опять же ради справедливости, исследование достаточно старое - 2023 года аж на GPT-3.5. Однако помним, что тут уже зависимость ",[50,206,207],{},"не от модели, а от токенайзера"," и судя по свежим исследованиям, ситуация улучшилась, но не сильно. Например в этой ",[59,210,213],{"href":211,"rel":212},"https:\u002F\u002Farxiv.org\u002Fabs\u002F2609.39001",[63],"статье"," 2026 года ",[50,216,217],{},"французский требует на 31–58% больше токенов чем английский",", а в этой ",[59,220,213],{"href":221,"rel":222},"https:\u002F\u002Farxiv.org\u002Fhtml\u002F2601.13328",[63]," показывают, что с обновлением токенайзера ",[50,225,226],{},"оверхэд хинди упал с 4.83x с GPT-3.5\u002F4 до 1.59x c GPT-4o",". Еще вот недавняя ",[59,229,232],{"href":230,"rel":231},"https:\u002F\u002Fteletype.in\u002F@khaskydev\u002Fnon-english-prompts-cost-more-tokens",[63],"статья",", которая показывает что *",[50,235,236],{},"Opus 5 использует на 200% больше токенов на русском"," при одинаковых лексикографических промптах.",[28,239,240],{},"Какие выводы можно сделать:",[115,242,243,249],{},[118,244,245,248],{},[50,246,247],{},"Стоимость одного и того же запроса в среднем увеличивается, если вы используете любой язык, кроме английского",". Иначе говоря ваши лимиты по подписке утекают быстрее.",[118,250,251,252,255],{},"Размер контекстного окна ограничен числом токенов. Если русский текст занимает больше токенов, в ",[50,253,254],{},"то же окно поместится меньше информации",", а в агентных сценариях сжатие контекста может понадобиться раньше.",[32,257,259],{"id":258},"вывод","Вывод",[28,261,262],{},"Для повседневных задач разница может быть незаметна. Но если вы постоянно работаете с агентами и большими контекстами, выбор языка заслуживает внимания.",[28,264,265,266,269,270,273,274,277,278,280],{},"С появлением нейросетей ",[50,267,268],{},"необходимость знания английского только возросла",". Код и так пишется на латинице, все комменты в коде ",[50,271,272],{},"должны"," быть на английском, т.к. попадают в контекст, документация, которая может быть использована агентом ",[50,275,276],{},"должна"," быть на английском, т.к. попадает в контекст, ваши промпты ",[50,279,272],{}," быть также на английском, т.к. создают этот контекст.",[28,282,283,284,289],{},"Есть такой график для моделей, который называется ",[59,285,288],{"href":286,"rel":287},"https:\u002F\u002Fartificialanalysis.ai\u002F#intelligence-comparison-tabs",[63],"Intelligence Index vs. Cost per Intelligence Index Task"," на который многие ориентируются при выборе моделей как на оптимальные по соотношению цены и качества. Если вы продолжаете писать промпты на русском каждый раз мысленно перемещайте эту точку направо и вниз, туда где дороже и глупее. Это и будет ваш налог за \"легкость\".",[28,291,292],{},"Используйте инглиш, пожалуйста.",{"title":12,"searchDepth":294,"depth":294,"links":295},2,[296,297,298,299],{"id":34,"depth":294,"text":35},{"id":68,"depth":294,"text":69},{"id":158,"depth":294,"text":159},{"id":258,"depth":294,"text":259},"2026-10-17 00:00:00 UTC","Или как получить меньше AI за большие деньги","5 мин","md",{},true,"\u002Fposts\u002Finvisible-language-tax",null,{"title":5,"description":301},{"loc":306,"lastmod":300},"posts\u002Finvisible-language-tax",false,"KK58aoG__ynpS3ImeBRGr5btGt4LdDBXcPwvEwRfKpI",1793714526091]