Google випустила найпотужнішу модель ШІ для запуску на одній відеокарті

Компанія Google представила нову колекцію моделей Gemma 3, які є легкими та сучасними. Вони розроблені на основі досліджень і технологій, які використовувалися для моделей Gemini 2.0. Ці моделі призначені для швидкої роботи на пристроях, таких як телефони і ноутбуки, і дозволяють розробникам створювати додатки зі штучним інтелектом у потрібний момент.
Gemma 3 доступна в чотирьох розмірах з різною кількістю параметрів, що дозволяє вибрати оптимальну модель для конкретних потреб у технічному специфікації і продуктивності. Деякі версії мають підтримку “зору” для роботи з зображеннями та відео.
Також є підтримка більше ніж 35 мов та базова підготовка ще понад 140 мов. Модель має розширене контекстне вікно на 128 тис. токенів, що дозволяє програмам обробляти великі обсяги інформації.
Крім того, NVIDIA оптимізувала моделі Gemma 3 для максимальної продуктивності на графічних процесорах різних розмірів. Gemma 3 випереджає інші моделі в рейтингу LMArena за оцінками людських уподобань.