Энтузиаст представил необычный проект — визитную карточку, на которой локально работает языковая модель.
Микрокомпьютер на базе чипа ESP32-S3 отображает генерируемый текст при помощи светодиодов, расположенных в форме доски Уиджи — популярной мистической игры, где участники якобы общаются с духами через указатель, перемещающийся по буквам и символам.
LLM-модель не очень-то большая: всего 260 000 параметров. Мощности хватает на генерацию 24 токенов (слов) в секунду.
По словам разработчика, модель функционирует полностью офлайн и не требует подключения к интернету. Процесс создания и работу устройства он показал в ролике на YouTube, а также выложил на GitHub исходный код прошивки и схемы, позволяющие другим повторить эксперимент.
Визитки на базе дешёвых одноплатных микрокомпьютеров — не редкость: на подобных устройствах уже запускали Linux.