Małe modele AI kluczem do wdrożenia sztucznej inteligencji w sektorze publicznym

Sektor publiczny stoi przed wyjątkowym wyzwaniem w zakresie wdrażania sztucznej inteligencji. O ile organizacje prywatne mogą pozwolić sobie na elastyczne podejście do AI, instytucje rządowe muszą radzić sobie z rygorystycznymi ograniczeniami bezpieczeństwa i operacyjnymi. Jak wynika z najnowszej analizy MIT Technology Review, małe modele językowe (SLM) mogą być kluczem do skutecznego wdrożenia AI w administracji publicznej.

Badanie Capgemini pokazuje, że aż 79 procent kadry zarządzającej sektora publicznego na świecie wyraża obawy dotyczące bezpieczeństwa danych AI. To zrozumiałe, biorąc pod uwagę wrażliwość danych rządowych i prawne obowiązki związane z ich wykorzystaniem.

Kluczowe wnioski

• Ograniczenia operacyjne: Sektor publiczny wymaga pełnej kontroli nad danymi, weryfikowalności informacji i minimalnych zakłóceń operacyjnych, co utrudnia wdrażanie standardowych rozwiązań AI

• Infrastruktura jako bariera: 65 procent liderów sektora publicznego ma problemy z ciągłym wykorzystaniem danych w czasie rzeczywistym i na dużą skalę

• SLM jako rozwiązanie: Małe modele językowe, używające miliardów zamiast setek miliardów parametrów, oferują większe bezpieczeństwo przy lokalnym hostingu

• Przewaga wyszukiwania: AI może zrewolucjonizować sposób, w jaki rząd przeszukuje i zarządza ogromnymi ilościami nieustrukturyzowanych danych

• Prognoza wzrostu: Gartner przewiduje, że do 2027 roku małe, wyspecjalizowane modele AI będą używane trzy razy częściej niż duże modele językowe

Unikalne wyzwania operacyjne

Gdy organizacje prywatne rozwijają AI, zazwyczaj zakładają określone warunki: ciągłą łączność z chmurą, poleganie na scentralizowanej infrastrukturze, akceptację niepełnej przejrzystości modeli i ograniczone restrykcje dotyczące przepływu danych. Dla wielu instytucji państwowych przyjęcie tych warunków może być jednak niebezpieczne lub wręcz niemożliwe.

Jak wyjaśnia Han Xiao, wiceprezes ds. AI w Elastic: "Agencje rządowe muszą być bardzo restrykcyjne w kwestii tego, jakiego rodzaju dane wysyłają do sieci. To wyznacza wiele granic w sposobie myślenia o danych i zarządzaniu nimi".

Ograniczenia infrastrukturalne dodatkowo komplikują sytuację. Organizacje rządowe często mają trudności z uzyskaniem jednostek przetwarzania graficznego (GPU) używanych do trenowania i dostępu do złożonych modeli AI. , wskazuje Xiao.