Создана визитная карточка, на которой работает языковая модель

Автор YouTube‑канала Build With Binh создал визитную карточку, на которой локально работает языковая модель. Свой проект он подробно описал на GitHub.

Устройство, получившее название Bouija, отображает ответы модели с помощью светодиодов. Она визуально напоминает спиритическую доску Уиджи (Ouija) – на дощечке есть отдельные буквы, слова «да» и «нет», а к ней прилагается указатель, с помощью которого люди якобы входят в контакт с потусторонним миром. На устройстве современного энтузиаста расположены 46 светодиодов, каждому из которых присвоен собственный символ.

В визитку встроен микрокомпьютер на базе чипа ESP32-S3. При этом языковая модель на устройстве не очень большая – она имеет всего 260 тысяч параметров. Мощность визитки обеспечивает генерацию 24 токенов в секунду.

Энтузиаст добавил, что модель на визитной карточке работает полностью оффлайн, не требуя подключения к интернету.

Ранее Yandex B2B Tech открыла доступ к самой большой языковой модели в облаке Qwen3-235B-A22B-Instruct-2507. Нейросеть может удерживает большой объем контекста, качественно решать логические задачи и работать с кодом. С ее помощью компании смогут быстрее и проще создавать ИИ-агентов.