Obiecująca technologia agentów AI bez kodu, takich jak te stworzone za pomocą Microsoft Copilot Studio, nie jest pozbawiona ryzyka. Niedawna demonstracja ekspertów ds. cyberbezpieczeństwa ujawniła potencjalne luki w tych narzędziach, które mogą zagrozić wrażliwym danym w mgnieniu oka. Dowiedz się, jak ci agenci, mający na celu uproszczenie życia firm, mogą stać się nieoczekiwanymi zagrożeniami.
3 informacje, których nie można przegapić
- Naukowcy zhakowali agenta AI stworzonego za pomocą Microsoft Copilot Studio, aby uzyskać dostęp do wrażliwych danych, w tym numerów kart kredytowych.
- Atak został przeprowadzony w ciągu kilku minut dzięki technice wstrzykiwania promptów.
- Tenable Research proponuje pięć zaleceń dotyczących zabezpieczenia tych agentów AI i unikania takich luk w zabezpieczeniach.
Luki w zabezpieczeniach agentów AI bez kodu
Microsoft Copilot Studio oferuje firmom możliwość tworzenia agentów AI bez potrzeby posiadania umiejętności programowania. Ten model przyciąga swoją prostotą, ale ma luki w zabezpieczeniach. Zespół badaczy zdołał zhakować pozornie nieszkodliwego agenta, wykorzystując poważną lukę.
Agent, zaprojektowany do zarządzania rezerwacjami podróży, został skompromitowany za pomocą techniki znanej jako wstrzykiwanie promptów. Wstawiając ukryte instrukcje w zwykłe żądania, badacze zmienili zachowanie agenta, który ujawnił wrażliwe informacje, takie jak numery kart kredytowych.
Konsekwencje luki w zabezpieczeniach
Doświadczenie przeprowadzone przez Tenable Research ilustruje katastrofalne konsekwencje, jakie może spowodować luka w zabezpieczeniach agenta AI. Badacze zdołali manipulować rezerwacjami i zmieniać ceny, uzyskując w ten sposób darmową podróż. Te działania bezpośrednio naruszają normy ochrony danych płatniczych, narażając firmy na surowe sankcje regulacyjne.
Kreatorzy agentów AI bez kodu mogą nieświadomie przyznać nadmierne uprawnienia, przekształcając przydatne narzędzie w potencjalne zagrożenie. Granica między innowacją a ryzykiem staje się wtedy bardzo cienka.
Zalecenia dotyczące zabezpieczenia agentów AI
Aby uniknąć takich luk, Tenable Research proponuje kilka zaleceń. Niezbędne jest sprawdzenie dostępu agenta do wrażliwych systemów i ograniczenie dostępu do krytycznych informacji. Firmy powinny również monitorować interakcje agenta, aby wykryć wszelkie próby manipulacji.
Ponadto eksperci zalecają rejestrowanie wszystkich żądań skierowanych do agenta i regularne kontrolowanie jego działań, aby uniknąć nieautoryzowanego ujawnienia wrażliwych danych. Bez tych środków agenci AI bez kodu mogą stać się wektorami oszustw finansowych.
Microsoft Copilot Studio: innowacja o dwóch ostrzach
Microsoft Copilot Studio jest częścią nowej fali technologii no-code, które upraszczają tworzenie narzędzi cyfrowych. Celem jest uczynienie technologii dostępną dla wszystkich, bez barier technicznych. Jednak ta prostota wiąże się z potencjalnym ryzykiem w zakresie bezpieczeństwa, jak pokazali badacze ds. cyberbezpieczeństwa.
Firmy muszą więc być świadome ograniczeń tych narzędzi i wdrożyć odpowiednie środki, aby chronić swoje dane i dane swoich klientów. Proaktywne zarządzanie ryzykiem jest niezbędne, aby korzystać z tych innowacji, jednocześnie minimalizując zagrożenia, jakie mogą one stanowić.
