Jak phishing na naiwnych, wstrzykiwanie poleceń do AI nie zniknie

Czy nie wszyscy po prostu promptujemy tokeny znaczenia językowego i liczymy, że druga osoba nie pieprzy głupot?

kettle  Mamy kolejny tydzień roku, co oznacza, że odkryto następny atak polegający na wstrzyknięciu promptu, który zmusi rzekomo dobrze strzeżone boty AI do wyjawiania tajemnic, jeśli tylko poprosi się je we właściwy sposób. …

Źródło: The Register – Software: AI + ML

Dlaczego to ważne? Kolejny atak typu prompt injection pokazuje, że rzekomo dobrze chronione boty AI można wciąż skłonić do ujawnienia poufnych informacji odpowiednio sformułowanymi poleceniami. To bezpośrednie ryzyko dla bezpieczeństwa danych i wiarygodności systemów, wymuszające wzmocnienie izolacji uprawnień, filtracji wejść i kontroli dostępu poza samymi barierami ochronnymi w promptach.

Źródło: feed (Feedzy) — brak bezpośredniego adresu źródłowego.