Qwen 3.8 27B локально! Отменяю подписку на Claude? transcript

Получится ли у меня сделать игру бесплатно и используя только локальные нейронки? Сейчас узнаем. Всем привет и добро пожаловать на канал Студия игр. Меня зовут Игорь, и сегодня мы будем делать игру. Вы часто просите меня в комментариях протестировать локальные нейронки. И недавно вышло 3.8 27 млрд параметров. На бенчмарках эту модель сравнивают с Clot Opus 4.6. И мне стало реально интересно протестировать её. Как раз в одних из первых своих роликах на канале я тестировал Clotд OPUS 4.5 и 4.6. Результаты тогда были довольно неплохие. Сегодня мы проверим, сможем ли мы добиться чего-то похожего на этой новой модельке QN 3.8. И первый тест, кстати, я решил сделать такой же, как когда-то в ролике, когда я тестировал Clotд OPUS 4.6. Одна из игр тогда была платформер. Я помню, мне особенно понравилось, как Клод её сделал тогда. Но забегая вперёд, скажу, что сегодня мы также попробуем сделать и игры не только ваншотом, [музыка] не только браузерные, но и используя игровые движки вроде годот, а также заранее подготовив подробный план реализации, по которому потом локальные модели будут делать игры. Да, вы не ослышались, я сказал именно модели, потому что тестировать мы сегодня будем не только 3.8, но об этом [музыка] позже. И первое, что нам нужно сделать - это подготовить окружение. Когда-то в своих роликах я уже тестировал локальные модели при помощи Олаama. Я тогда ещё рассказывал, как скачать, установить Олаama, запустить там локальную модель. Это окружение с графическим интерфейсом, который позволяет вам удобно запускать и тестировать модельки. И скачать его вы можете с официального сайта. Дальше нужно определиться, что именно мы будем запускать. Как я и сказал, это Quen 38x27 млрд параметров. Поэтому на сайте Олаama, просто в каталоге моделей я ищу в поиске 3.8 и сразу же нахожу страничку модели. Но есть ещё и разные варианты моделей, какую именно выбрать. У меня компьютер Mac, поэтому использовать я буду именно MLX-версию. Почему MLX? Давайте спросим у Гугла. Чем отличается MLX версия модели от обычной? И Google отвечает, что MLX-версия отличается от обычной тем, что она максимально оптимизирована для запуска на продуктах Apple, в частности на Маках. У меня как раз вот такой MacBook Pro с чипом Apple M3 Pro и 36 ГБ памяти. Надеюсь, хватит. А как узнать то, что хватит или нет? перемещаетесь на страничку модели и смотрите на её размер. В данном случае 38 27 млрд параметров MLX весит около 18 ГБ. Вся модель должна полностью загружаться в память, поэтому критически важно, чтобы здесь памяти точно хватало. На самом деле памяти нужно несколько больше, скажем так. А сколько именно, узнаем чуть позже. Итак, всё, что нужно сделать - это вызвать в терминале команду OLama Run Quent 3.8 и после двоеточивого указав, какую именно модель мы хотим загрузить. В данном случае я пишу 27B MLX. Дальше я просто жду, пока модель скачается, и её сразу же можно будет использовать. В терминале активируется вот такой чат. Можно будет отправить сообщение и получить ответ. Моделька отвечает: "Тест получен, я работаю". На русском, кстати, тоже работает отлично. Как я и сказал, в Олаama есть графический интерфейс. Мы можем открыть приложение Олаama, выбрать там модельку, которую мы только что скачали, и отправить сообщение аналогично, как мы это делаем в вебе, например, в чате GPT. И здесь тоже всё работает. Я прошу написать мне функцию для расчёта энного числа Фибоначи, и через какое-то время получаю ответ и даже несколько вариантов. Но мы с вами будем не решать задачки на алгоритмы, а делать игры. И для того, чтобы сделать игру, нам понадобится Харнес. Если стартануть Олаama, то на приветственном окне на вкладке launge у нас отображается множество-множество вариантов харнесов, с которыми можно запустить ту или иную модель. Здесь есть идко, и коeкс, и open cд, и много чего ещё. В частности, меня интересует Deepsek HNС. Именно его в сети очень сильно рекомендуют для использования с этой моделью. Говорят, с ним она работает прямо очень круто. Но для того, чтобы установить deepsic harness, давайте перейдём на официальный сайт deepsig harness. Вот такие здесь прикольные эффекты. Дальше нам просто нужно скопировать команду для быстрой установки и выполнить её в терминале. Но не всё работает так гладко, и установка у меня просто зависает. Я открываю код и прошу Clot Opus 5 установить мне Deepsic harness и скидываю ему эту команду. И теперь можно работать. Дальше мы просто воспользуемся той самой командой для запуска Deepsic Harness с нужной нам локальной моделью через Олаama. У меня сразу же открывается Deepsic Carness. Моделька Quen 38 у меня уже предвыбрана. И дальше я просто отправляю тестовое сообщение для того, чтобы убедиться, что идик Carness с этой локальной моделькой тоже работает. И через какое-то время я получаю ответ, что да, всё в порядке. Мы находимся в текущей папке с проектом. И что бы вы хотели сделать? Наверное, игру. Я буду использовать тот самый промт, который использовал тогда в видео, когда мы тестировали Clotд OPUS 4.6. Если вам интересно посмотреть весь процесс целиком, как тогда мы тестировали модельку, ссылочка на видео сейчас будет в верхнем правом углу экрана. Ну что, я отправляю этот промт, и дальше мы просто ждём, когда Квен локально и совершенно бесплатно сделает нам игру. Через какое-то время он начинает думать, размышляет он довольно шустро. Я предполагаю, что в целом никаких проблем возникнуть не должно. Через 20 минут он уже пишет какие-то файлы, сделал себе ту-дулист и в целом работает довольно неплохо, я бы сказал. Как нормальная нейронка быстро, шустро пишет мне игру. Кстати, сходу он сказал, что будет делать sle HTML файл. Нет, такое мне не надо. Я прошу его сделать несколько файлов, потому что я почти уверен, что с написанием одного файла он просто не справится. Всё. Квен переделал toлиist. Теперь у него здесь есть план на написание нескольких файлов. И сейчас можно просто оставить его, пусть работает. И посмотрим на результат. И уже через 264 минуты что-то сбайнуло, были какие-то ошибки, затем модель начала ретраить запросы. Пять из пяти она попробовала поретраить, у неё ничего не получилось, и она просто остановила выполнение. В этот момент я подумал: "Ну ладно, может быть, бывает там что-нибудь контекст переполнился. Сейчас мы просто сделаем компакт и продолжим". Но нет, сколько бы я не пытался повторить, у меня так ничего и не получилось. Моделька выполнила только один пункт из туду листа. Вероятно, это просто создать структуру проекта и дальше просто отвалилась на генерации файлов или на чтении файлов или на размышлении после 260 с лишним минут выполнения. И я подумал: "О'кей, может быть, у меня не самый оптимальный сетап". И я решил проверить разные версии моделей. И меня привлекла вот эта версия на сайте Олаama, которая называется TP. Тогда я ещё спросил у Клода, будет ли лучше работать на моём Маке вот эта версия МTП, чем версия MLX. И ClД опус п чате меня убеждал, что да, действительно, она будет работать в несколько раз лучше. Я тогда поверил ему на слово, скачал, запустил себе МТП-версию модели и оставил её работать на ночь. Утром, спустя 89 или 10 часов работы, у меня, в принципе, был такой же результат, но даже ещё хуже. Там моделька даже, по-моему, первую задачу из туду листа не выполнила. И после первых серьёзных фейлов я решил, что сходу залететь в эту историю с локальными нейронками не получится, и надо тестировать разные окружения и разные параметры запуска этих моделей. И помогать мне в этом сегодня будет Clotд OPUS п. И первое, что мне было интересно потестить - это МТП версию модели против MLX. Действительно ли МТП лучше или всё-таки меня обманули? И Clot OPUS запустил тесты моделей, тесты разных моделей в разных окружениях. Всего тестов было, по-моему, семь или восемь. Это были разные задачи. Он тестировал модели с разным уровнем рининга, без рининга и смотрел, как нейронки быстро отрабатывают, сколько они пишут в кэш и пишут ли кэш вообще, сколько они размышляют и как эти размышления реально влияют на результат. И вот первые результаты тестирования. И в итоге он пишет, что нужно оставить 27B MLX версию моделей и включить рассуждение на хай. Если мы так сделаем, то выигрыешь по скорости у нас будет более чем в три раза. Кстати, он тестировал разные настройки Олама. Ни одна из них не дала прироста по скорости. Далее МТП сборка проигрывает по всем статьям. Здесь можно видеть различные сценарии, которые он тестировал. Генерация сцены 500 токенов, задача с рассуждением, холодная загрузка, обработка промта, генерация при контексте 4,64.000 и качество семи проверяемых задач. Сколько из семи задач было реально решено? По идее, МТП должна ускорять генерацию, потому что МТП - это мультитон предикшн, то есть предсказание на несколько токенов вперёд, а основная модель проверяет их одним проходом. Но за счёт именно архитектуры чипов, которые стоят на макбуках, гораздого гораздо эффективнее использовать именно MLX версии модели и соответствующее окружение для того, чтобы эти модельки запускать. Дальше по результатам тестирования КЛОД пишет, что Олаama не проигрывает ни Лама CPP, ни Гому MLX. Это вот все три рантайма, которые он протестировал. И даже он говорит, что текущая установка Олама в каких-то сценариях работает быстрее. На самом деле, дальше в видео мы будем делать более сложную конфигурацию локального запуска нейронок. И забегая вперёд, скажу, что Олама нам всё-таки не подойдёт, потому что какие-то параметры конфигурации там настроить либо нельзя, либо они не работают нормально. Также Клод проверил разные режимы рассуждений. В целом, все они отработали нормально. Здесь вот видно, на самом деле даже, что на хай эфферте объём размышления был меньше, но он при этом даже работал быстрее всех. Хотя медиум работал медленнее всех, но решил больше всех задач. Далее здесь представлена информация, какие уровни в целом вообще существуют и какие из этих уровней рассуждений работают в оламы. Дальше я просто прошу Clд о opпус пятый в clк код дать мне команду, чтобы я мог стартануть deepsek harness с рекомендуемой конфигурацией. А ещё, кстати, Clot Opus сильно снизил мне контекст. Я вижу, что он сделал 32.000. На самом деле сделал он это не просто так, а после того, как прогнал много разных тестов и решил, что на моей машине потолок контекста - это именно 32.000, потому что больше просто не помещается в память. Ну, дальше у меня здесь началась просто какая-то степень отрицания. Я не мог принять, что могу работать с этой моделькой локально только на 32.000, и начал пробовать разные варианты. Сначала попросил его поднять контекст до 92, по-моему, тысяч. Конечно же, через несколько часов генерация игры у меня опять отвалилась. Потом я просил сделать 64.000, не знаю, 56-48.000. Всё, что было меньше 64 или даже 90.000, пользоваться этим было невозможно. У меня не отваливался Deepsic Harness. Моделька, в принципе, работала нормально, но она уходила в бесконечный цикл чтения. То есть она нагенерила какие-то базовые файлы проекта. эээ, начинала их по очереди читать для того, чтобы дальше делать игру, писать код. Забивала этим самым контекст, делала компакт, эти файлы из контекста улетали, и она начинала читать их по новой. Опять читала все, делала компакт, файлы улетали, читала по новой. Итак, несколько часов, пока её я не останавливал. Я подумал, что с этим надо что-то делать. Каким-то образом мне надо запихать приличное количество контекста в память. Я поразгонял, как я могу это сделать вместе с клод опусом. И мы пришли к выводу, что надо использовать квантование контекста. То есть по дефолту там было включено какое-то квантование 16 бит, по-моему. И мы решили включить квантование 8 бит. То есть ровно в два раза меньше памяти у нас выделялось бы на сохранение одного токена в контексте. Да, там немного страдала точность, но в целом этой точности было достаточно. Сам Clлод OPUS или даже Google, я уже не помню, у кого там спросил, написали мне, что вот для локальных моделей квантование самой модели 4 бита, квантование контекста 8 бит является золотым стандартом. Я пошёл, кстати, в этот момент проверять, какое квантование у меня было у самой модели, и обнаружил на сайте Улама, что там есть ещё больше вариантов. И те варианты моделей, которые доступны по умолчанию - это именно четырёхбитовые варианты вот этой локальной нейронки. Но есть и полные варианты, по-моему, они шестнадцатибитовые. Но есть и полные варианты, по-моему, они 16 бит. И если вы захотите запустить полный вариант модели, то вам понадобится 56 ГБ оперативной памяти, если вы пользуетесь Маком, или видеопамяти, если у вас не Мак. только для того, чтобы эту модельку загрузить. Ну что, как я уже сказал, мы сделали квантование, по-моему, 8 бит сначала у контекста, а затем и в целом пришли на квантование 4 бита. И таким образом у меня получилось запихать контекст целых 128.000 токенов в итоге, под конец уже, по-моему, третьего дня. В итоге локальной нейронкой игру у меня доделать так и не удалось. моделька просто писала весь код в рассуждениях, но не в папке с проектом. На этом эксперимент я решил закончить. Опять же, немного забегая вперёд, скажу, что мы потестим ещё одну нейронку, но об этом позже. А сейчас вот такую презентацию мне Clotus П наклепал по прошествии 3х дней. Вот такое здесь прикольное есть облако, которое реагирует на курсор мыши. И давайте посмотрим на результат. 3 дня замеров на одном ноутбуке. У меня вот здесь есть конфигурация машины. Это M3 Pro, память 36 ГБ, квантование модели 4 бита, что, с чем сравнивали и на каких задачах. Модель одна и та же. Во всех тестах менялась сборка Rimeймime, размер контекста. Всё гонялось по очереди. Две модели, к сожалению, одновременно я тестировать не мог, потому что в память они просто не помещаются. Всего мы провели с Опусом пять разных тестов. В первом тесте мы тестировали различные сборки модели. Во втором тесте мы тестировали рантаймы, в третьем уровне рассуждений. В четвёртом, когда у меня начались проблемы с контекстом, мы тестировали лестницу контекста, то есть как он заполняется и как работает ступенчато. И в пятом уже был тест реальной работы. Здесь Опуus пишет, что агенту дали дописать браузерную игру. На самом деле это мы делали подходы к одной и той же игре. Сначала вот я как в начале видео показывал, что я скинул промт, попросил сделать игру. Потом в какой-то момент я просил уже эту игру дописать, чтобы не делать всё заново. Здесь вот OP пишет: "Почему всё упирается в память? Веса модели занимают 15 гигов, а всё остальное у нас забивает контекст. Какая сборка быстрее? Конечно же, MLX. В итоге она быстрее в три с небольшим разом, почти в четыре. Здесь ещё есть вот результаты третьего тестирования, которые дают неожиданный результат. Отключение рассуждений не ускоряет работу там, а наоборот, по-моему, её даже замедляет. Но это не закономерность, а просто, скорее всего, какая-то особенность либо именно этой модели, либо именно этой конфигурации, которую мы тестировали. 21 августа на второй день я решаю перейти на MLX VLM Солаama. Здесь есть сравнительная табличка, что против чего мы в итоге тестировали, какие настройки включали, точнее, пытались включить улама и они не работали, и какие настройки всё-таки получилось включить на окружение MLX VLM. В частности, вот особое внимание я уделяю именно квантованию Кэша, потому что за счёт квантования 48 бит получалось существенно увеличить размер контекста, который мы могли запихать в память. В итоге вот получилось для 92.000 токенов в два раза оптимизировать размер занимаемой памяти и без свопа на диск. Самая главная проблема, с которой я столкнулся на второй день, когда вроде как получилось оптимизировать контекст, моделька начинала писать весь ответ в размышлениях. То есть она буквально начинала писать код для всех файлов игры именно в блоке рассуждений. Писала, писала, писала, писала. пока не упиралась в лимиты. А лимиты у неё были 16.384 токена. И после этого просто отваливалось. И дальше там продолжай, не продолжай, ничего не работает. А если сделать компакт, вся эта история сбрасывается и начинается заново. Как мы это полечили? Полечили мы это лимитом на размышление, но в итоге, если честно, не особо помогло. На третий день я решал проблему с контекстом, которую в итоге, как я уже сказал, удалось решить квантованием и отключением кэша. Кстати, кэш выключать не рекомендую, если вы не хотите, чтобы локальная моделька генерила вам что-то бесконечно долго. То есть, на самом деле, в какой-то момент я начал со включённым кэшом подбирать вот это оптимальное количество контекста, на котором всё-таки что-то работает. И выйти за пределы, ну, наверное, 36.000 токенов у меня так и не получилось. Дальше здесь немного информации про кэширование префикса. Префикс - это диалог, который уже хранится в КШ. И архитектура работы с этим префиксом Кыша, она была не самая оптимальная. Как я уже сказал, при чтении этого префикса, при каждом новом обращении создавалась ещё одна копия, которая просто забивала всю память целиком. Ну и в итоге какой результат? Агенту дали дописать игру. На самом деле агенту дали написать игру. 4 часа он работал 3 часа и 3 часа. Сделал очень много чтений, сделал очень много сжатий. контекста. И как видно, вот на контексте 36.000 за 4 часа работы локальная моделька сделала ровно одну запись в файл. Но всё-таки что-то у модельки написать получилось. Но в таком виде мне не хотелось бросать тестирование этой модели, поэтому я решил дописать игру, используя облачную модель через IP openроутера. И уже через полчаса у меня в Deeps Харсе крутилась облачная модель QN 3.8 27 млрд параметров. Та самая, которую я запускал локально, но скорее всего с полным квантованием всего и самой модели, и контекста. И поэтому работает, вероятно, она сильно лучше, чем работала та самая модель, которую я запускал локально у себя на компьютере. И, кстати, работает она сильно быстрее, прямо в разы быстрее. Можно видеть, как она очень быстро пишет блоки с рассуждениями, читает файлы и пишет в эти файлы. Кстати, наконец-то она пишет файлы, но тем не менее, чтобы закончить игру там, где остановилась моделька локальная у меня на компьютере, у облачной модели потребовалось примерно 2 часа. И сейчас мы наконец-то можем посмотреть на результат генерации того самого платформера, с которым мы когда-то тестировали Clло Opus 4.6, с которым как раз-таки сравнивают вот эту вот модельку Quen 38. Я запускаю игру, меня встречает вот такой вот стартовый экран с управлением. Сразу видно персонажа, который там где-то светятся на фоне. И если я нажимаю любую клавишу, начинается игра. Есть туман войны, есть оружие. Это оружие можно улучшать. В принципе, все задачи, которые мы ставили перед моделькой в изначальном промте, они были реализованы. Есть какие-то эффекты, частицы, свечения, тени. Есть разные типы врагов, платформы, кристаллики на платформах, которые нужно собирать. И вот какая-то такая игра получилась у Квен 3.8. Я думал, что это будет быстрое тестирование, а в итоге это переросло в такой эксперимент по запуску и конфигурации локальных моделей. И сейчас вы на экране можете видеть одновременно игру от Clot Opus 4.6 и от Quen 3,8. Какая вам нравится больше, вы можете написать в комментариях. А сейчас я предлагаю переходить ко второй части этого видео, где мы попробуем потестировать локальные модели на реальных задачах. Кстати, у меня есть канал на Бусте. Если вам нравится то, что я делаю, вы можете подписаться или разово задонатить для того, чтобы поддержать канал.

QR-коды вы можете видеть на экране. И мы продолжаем. Итак, перейдём ко второй части сегодняшнего тестирования локальных моделей, к самой интересной части, где мы попробуем написать подробнейший план и потом попросим локальную модельку его реализовать. План я прошу написать Clotд Fable 5. Настолько подробный и детальный, чтобы его могла сделать локальная модель, даже самая тупая локальная модель. Идея заключается в следующем. В одном из своих первых роликов я уже использовал Asset packack с. Вот этот. Здесь есть различные персонажи, анимации этих персонажей: стены, полы, оружие и так далее, и так далее. Всё для того, чтобы сделать игру. Ссылочка на этот Оsetтпак будет в описании. Кстати, тогда в одном из своих первых роликов я как раз делал эксперимент. Что же смогут сделать модели? если им дать готовый asset паack. И вот это результат генерации Clot Opus 4.5. Насколько я помню, мне тогда довольно сильно понравилась эта игра. В основном мне понравилась идея этой игры. Она была необычная. Мы играли за некроманта, который поглощает души и потом может использовать эти души в бою. Идея была прикольная, игра была сделана интересная. Пока я её тестировал, мне даже было интересно в неё поиграть. Если хотите посмотреть ролик, ссылочка будет в верхнем правом углу экрана. Итак, ассеты у нас есть. План Clot Fable 5 написал. Я его ещё спросил. Посчитай по стоимости АИ, сколько бы стоило написание такого плана. И он меня насчитал примерно 5-10 долларов в пересчёте по стоимости АИ OPUS 5. Зачем нужны все эти расчёты стоимости АИ? Ну, допустим, вы решите написать план опусом пятым или фейблом пятым. заплатите по апе 5-10 баксов, а дальше будете делать игру локальной нейронкой. Ну, какой-то такой план у меня и был. Посмотрим, сработает ли.

Fable V закончил писать план и говорит, что с ним справится локальная нейронка меньше 10 млрд параметров. План этот выглядит следующим образом. Здесь есть название игры и восемь шагов, которые нужно реализовать. Каждый шаг описывает в точности, что должно быть сделано в проекте, какие критерии приёмки и как это можно протестировать. И только после успешных тестов мы должны двигаться к реализации следующего шага из текущего плана. Всего этот план чуть больше, чем на 600 строк. Это аренный Dungeon Survival. Нам надо пережить пять волн, победить босса. После каждой волны у нас улучшается оружие. И в конце после победы над боссом игра заканчивается. Игра маленькая, динамичная. Игру подобного размера вполне себе должна осилить локальная моделька. Мне стало интересно, так ли это, и я решил попробовать ещё одну локальную нейронку, которая называется Ornet. Я нашёл вариант 9 млрд параметров, версия Ornit. На Haging Face на бенчмарках пишут, что это лучшая модель по кодингу в своём классе. А полную модель, у которой там больше 200 млрд параметров, сравнивают по производительности уже с Clot Opus 4.8. По-моему, говорит, что она его превосходит. Но сегодня мы попробуем сделать план игры, сделать саму игру в Godтot, используя в том числе и эту модельку. А 3827 млрд мы будем использовать дальше по апе Openроутера. Посмотрим, что из этого получится. Итак, я запустил Н по Openроутера. И делал игру он примерно 2 часа, насколько я помню. И в итоге я упёрся в лимит И в итоге я упёрся в лимит по кредитам. Ну то есть тупо у меня закончились деньги на моём балансе Openроутера. Потратил мне КН 3 бакса на генерацию этой игры и так её и не доделал. Я потом спросил Клод OPUS п, что там не доделано. Он сказал: "Да, в целом всё доделано. Вот буквально три строчки. Клод Опусus пятый пофиксил и сказал, что больше ничего не трогал. Всё остальное работает. Да, там есть какие-то недоработки, какие-то мелкие баги, но в целом игра должна быть играбельной. Посмотрим позже, что там получилось. Параллельно, кстати, я запустил разработку этой игры в ClДОД моделькой Clot Opus 4.8. Это самая старая модель, которую можно сейчас запустить в клодкоде по подписке, не по апе. по А мне бы не хватило никаких денег, наверное, чтобы эту игру нарить. Там до сих пор Clotд OPUS 4.6 по апе стоит, по-моему, 25 баксов на на генерацию. И Clot Opus 4.8 справился с генерацией этой игры за 13 минут 19 секунд. Ну а дальше последнее. Наша моделька орнет 1,5 на 9 млрд параметров. Клод Fable V. Моделька такого размера должна справиться с написанием игры. Контекст сделал 128.000 токенов. В целом, забегая вперёд, скажу, что в контекст не упирался и моделька работала в целом нормально. Что в итоге? Я запустил генерацию игры этой моделькой по плану. Моделька должна была делать игру в Godтot. Делала она эту игру несколько часов. Я не помню сколько точно. По-моему, три или 4 часа прошло после того, как я сессию в итоге прервал или, может быть, больше. Моделька просто не могла наерить никакой код, который смог бы запуститься в годот. То есть, вероятно, модель просто не обучена на написании игр подобного плана с использованием подобных движков. Я решил не мучить эту модельку и попросил OPUS пятый переписать план, чтобы эту игру можно было сделать в браузере. И вот я запустил генерацию игры по плану. и оставил эту нейронку работать на ночь. В итоге прошло 10 или 12 часов. Моделька выполнила четыре шага из восьми, хотя по факту она сделала больше. Просто какие-то шаги она не отметила выполненными и просто зациклилась. То есть она не то что зациклилась на вызове инструментов, она просто начала писать зацикленный текст. И мне пришлось прервать эту сессию. Дальше я спросил у пятого опуса, что там реально было сделано, что надо доделать. Пятый опус сказал, что, ну, какие-то шаги есть, каких-то нет. Поправил несколько строчек, чтобы эту игру можно было хотя бы запустить, посмотреть, что готово, сколько строчком поправил пишет, что четыре в двух файлах и игрушку можно запустить, посмотреть. На экране вы можете видеть QR-код, чтобы подписаться на мой Telegram-канал. Ссылочка будет в описании. Ну что, перейдём к тестированию наших игр. И первую игру делал Clot Opus 4.8. Начинается она как-то так. Есть стартовое меню. Нажимаем кнопку играть. И первая волна. На нас бегут монстры. Мечом можно крутить по кругу и атаковать в нужном направлении. После волны надо подбегать к сундуку, брать новое оружие. Оружие в руке меняются, и затем начинается новая волна. В целом, эта игра выглядит как маленький квест. Доктор просит его защитить, выставить пять волн, награждает нас новым оружием и дальше открывает дверь, чтобы мы смогли двигаться дальше. Такая вот получилась мини-игра. Нужно продержаться пять волн. Я не помню, по-моему, лучший результат у меня был три волны или четыре. Может быть, это я кривой, а может быть, что-то не то с балансом. В целом, я заметил, что э что не во всех играх, которые делает Опуus, я могу победить. Вот так вот это выглядит. Всё реализовано точно по плану. Все анимации, все скорости, все значения урона, количество золота, дропа предметов, все реплики, звуки, всё-всё-всё, всё было подробно описано и реализовано моделькой. Давайте посмотрим, что сделал Квен. Похожее стартовое меню. И дальше всё выглядит практически идентично тому, как это сделал клод OPUS 4.6. И играется это абсолютно так же. Ну, по крайней мере, по каким-то ощущениям. Есть некоторые баги визуальные, например, реплики доктора. Возможно, немножко вылазят за пределы экрана, но это всё легко пофиксить. Я напоминаю, что вот эту версию игру делала уже локальная моделька, которую каждый сможет запустить у себя на компьютере, если вам хватит мощностей. В версию от Квена, кстати, мне показалось, что играть как будто бы немного легче. И даже у меня получилось несколько раз дойти до финального босса и в какой-то момент даже этого босса победить. После этого игра заканчивается. На четвёртой волне нас встречает мини-босс, и на пятой волне уже появляется сам повелитель крипты. После его убийства мы сможем покинуть локацию вместе с доктором, который откроет ворота. Кстати, этого повелителя крипта я бы сделал побольше визуально, но, скорее всего, какие-то такие размеры были описаны в плане. И и Opus 4.6, и Quen 3.8 сделали абсолютно, ну, практически идентичные две игры. Ну и давайте напоследок посмотрим, что же у нас там получилось сделать у Орнит 9 млрд, а получилось сделать у него следующее. Ну, как-то так выглядит уровень. Есть какие-то монстры, которые куда-то в какую-то сторону бегут. Начинается волна и дальше, в принципе, больше ничего не происходит. Ходить нельзя, оружием крутить, ну, что-то типа можно, если это можно назвать оружием. Там какой-то силуэт на фоне видно крутится. И на этом всё. Вот такая вот получилась игра после 10 или там или 12 часов работы примерно. И опять же вот она игра, которую каждый смог бы сделать локально на своём компьютере при помощи вот этой модели 3.8 на 27 млрд параметров, если бы вам хватило мощности её запустить. А какой же нужен в итоге компьютер для того, чтобы запустить эту модель? А компьютер нужен следующий. посмотрел в интернете, что рекомендует для покупки, и попросил OPС посчитать, реально ли хватит того, что рекомендуют или надо что-то по помощнее, подороже. И Oпуus говорит следующее, что вот бюджет памяти при использовании этой модели при 128.000х контекста у нас следующий. Это примерно 61, почти 62 Гб использования. То есть нам надо минимум столько памяти, чтобы комфортно работать с моделькой QN 3.827 млрд. В обзорах рекомендуют покупать машину на 64 гига. Возможно, должно хватить. И стоит такая машина, ну вот, например, Max Studia M4 Max 2.500 долларов. И для того, чтобы комфортно запустить модельку, надо покупать Maк Studia Ultra 96 ГБ, которая стоит уже 5.300 долларов. И вот эта вот машина, по мнению Clot OPus 4.5, точно подходит для того, чтобы запустить локальную модельку и работать с ней комфортно при скорости 21 токен в секунду. Если у вас в гараже завалялась RTX Pro, вы можете использовать и её. А если нет, то купить себе вот какой-то такой Маг, наверное, будет наиболее бюджетным вариантом. Ну что, какое-то такое у нас получилось сегодня тестирование. Какой можно сделать вывод? Мне моделька KN 3.8 понравилась. У неё реально большой потенциал, но и железо она требует недешёвое для того, чтобы её можно было запустить и комфортно пользоваться. модельки поменьше, которые что-то вроде там на 10 млрд параметров. Ну, для написания кода ими пользоваться, наверное, всё-таки нельзя. Пока ещё они не вытягивают проекты целиком, особенно проекты уже существующие, в которых надо погружаться в контекст. Возможно, изве. Я мог бы работать и на своей машине в режиме написания кода, как это делали несколько лет назад до появления агентных харнесов, вроде код. То есть просто писать в чат: "А напиши мне вот такую функцию". Она должна принимать вот такие параметры на вход и делать то-то, то-то и получать ответ от модельки и потом эту функцию руками вставлять себе в проект. Возможно, что-то из этого и получилось бы. То есть, по сути, человек здесь выполняет роль контекста, который знает, что где лежит и как это правильно использовать. И на этом сегодня всё. Ставьте лайки, если вам нравятся подобные эксперименты. Подписывайтесь на канал. Так вы помогаете его развитию. И всем пока.

Yeah.