On-device AI – uruchamianie modeli bez dostępu do internetu.

On-device AI odnosi się do technologii sztucznej inteligencji, w której modele uczenia maszynowego są uruchamiane bezpośrednio na urządzeniu końcowym, takim jak smartfon, tablet czy kamera, bez konieczności stałego połączenia z internetem. Dzięki temu proces przetwarzania danych odbywa się lokalnie, co pozwala na szybsze reakcje, zwiększa prywatność użytkownika oraz zmniejsza zużycie pasma sieciowego i energii potrzebnej do komunikacji zdalnej.

Modele wbudowane w urządzenia są zoptymalizowane pod kątem ograniczonych zasobów sprzętowych, takich jak pamięć i moc obliczeniowa, co wymaga ich kompresji i stosowania specjalistycznych algorytmów. On-device AI jest powszechnie wykorzystywane w aplikacjach związanych z rozpoznawaniem obrazów, mowy czy tekstu, a także w systemach wspomagających decyzje czy personalizacji działania oprogramowania, zwłaszcza tam, gdzie istotna jest szybkość działania i bezpieczeństwo danych.