Većina ljudi i dalje zamišlja AI kao chatbot.
Ali novi AI agenti:
- otvaraju aplikacije
- pišu kod
- pristupaju bazama podataka
- instaliraju pakete
- pokreću procese
- i donose određene odluke bez direktnog klika čovjeka.
I upravo tu počinje sigurnosna noćna mora.
“Niko nije odgovoran”
Najzanimljiviji dio intervjua za The New Stack vjerovatno je jedna rečenica:
“There is no accountability.” (Nem a odgovornosti)
Drugim riječima:
Ako programer instalira sumnjiv paket, zna se ko je kliknuo.
Ali ako AI agent sam instalira nešto opasno?
Ko je kriv?
- developer?
- firma?
- AI model?
- security tim?
- niko?
Industrija trenutno nema jasan odgovor.
AI stvara novi “divlji zapad”
Godinama smo gradili sigurnosne sisteme za ljude.
Ali AI agent nije čovjek.
On:
- radi 24 sata
- može izvršiti hiljade akcija
- koristi desetine servisa odjednom
- i često dobija ogromna ovlaštenja.
Zbog toga klasični modeli sigurnosti počinju pucati.
Najveći problem možda nije AI nego ljudi
I tu dolazimo do najzanimljivije tačke.
Mnogi eksperti danas ne plaše se toliko samog AI-ja.
Plaše se firmi koje ga puštaju u produkciju bez kontrole.
Jer tržište trenutno izgleda ovako:
- svi žure
- svi žele automatizaciju
- svi žele manje troškove
- svi žele “AI first”
A sigurnost često dolazi tek kasnije.
Zato se sve više priča o “kill switchu”
Neki lideri industrije već otvoreno govore da svaki ozbiljan AI agent mora imati mogućnost hitnog gašenja.
Zvuči banalno.
Ali nije.
Jer ako agent dobije pristup:
- serverima
- kodu
- internim dokumentima
- finansijskim sistemima
onda postaje nova vrsta digitalnog identiteta.
Skoro kao zaposleni.
Samo mnogo brži.
Ironija cijele priče
Godinama smo zamišljali da će najveći AI problem biti svijest.
Hollywood nas je naučio da se bojimo:
- Skyneta
- Terminatora
- pobune mašina.
A stvarni problem vjerovatno će biti mnogo dosadniji.
Loše konfigurisan AI agent.
Pogrešan API ključ.
Pogrešno ovlaštenje.
I hiljade automatizovanih odluka koje niko više ne prati.
Zato je ovo važna tema
Jer ulazimo u eru gdje AI više nije samo alat.
Postaje izvršilac.
A historija tehnologije pokazuje jednu stvar:
Nije opasno kada mašina postane moćna.
Opasno je kada ljudi toj mašini daju moć prije nego što razumiju posljedice.
