📣 Встречайте 3D-визуализацию языковой модели GPT! Это Nano GPS, который содержит всего 85 000 параметров.

👉Представленная модель является частью семейства GPT (generative pre-trained transformer), которое можно охарактеризовать как «контекстно-зависимый предиктор токенов».

Модель представляет собой послойное представление популярных LM-архитектур с формулами и описаниями в формате 3D-визуализации.

Источник