Ilon Mask je prošle nedelje javno pozvao korisnike da prepuste svom Grok Botu kupovinu preko kreditne kartice, a već narednog dana sam je objavio snimak porudžbine na kojoj su se videli broj porudžbine, imejl adresa i poslednje četiri cifre platne kartice. Umesto demonstracije moći veštačke inteligencije, svet je dobio lekciju o tome kako se ne brane lični podaci.
Prema izveštaju portala kurir.rs, Mask je pohvalio mogućnosti Grok Bota, AI agenta koji pretražuje internet i kupuje proizvode u ime korisnika. Recept je, po njegovim rečima, jednostavan: fotografisati kreditnu karticu, poslati sliku u razgovor sa botom i reći šta želite. Sistem bi onda trebalo da pronađe povoljnu ponudu i obavi narudžbinu.
Kako je jedna demonstracija postala bojište privatnosti
Mask je tražio od Groka da pronađe LEGO Star Wars komplet za malu decu i naruči ga. Snimak ekrana koji je podelio na platformi X, međutim, sadržao je i ono što nije smelo da ugleda javnost: broj porudžbine, adresu elektronske pošte i deo platne kartice.
Podaci su odmah postali oružje. Korisnik poznat kao Enderman objavio je snimke ekrana tvrdeći da je uspeo da navede LEGO-ov automatizovani sistem korisničke podrške da otkaže Maskovu porudžbinu. Mask je uzvratio insistirajući da porudžbina nije otkazana.
Nije nezavisno potvrđeno da li je pokušaj zaista uspeo. Ali incident je pokazao nešto gore od neuspelog trika: javno objavljeni podaci postaju materijal za zloupotrebu, a svako ko ih vidi može da ih iskoristi.
Još jedan korisnik navalio: 400 kompleta i isporuka na sporno ostrvo
Usledio je novi udarac. Drugi korisnik tvrdi da je poništio otkazivanje i naručio čak 400 dodatnih kompleta istog proizvoda, uz promenu adrese dostave na ostrvo Litl Sent Džejms, poznato po vezi sa Džefrijem Epstinom.
Ni ove tvrdnje nisu nezavisno potvrđene, pa ih treba shvatiti kao navode korisnika, a ne kao dokaz. Ipak, poruka je jasna: ko svoje podatke izloži na videlo, taj je sam otvorio kapiju neprijatelju.
Koliko je bezbedno prepustiti AI pristup novcu?
Ovaj slučaj otvara šire pitanje: koliko je bezbedno dati veštačkoj inteligenciji pristup finansijskim podacima i ovlašćenje da obavlja kupovine. AI agenti mogu da pretražuju ponude i automatizuju rutinske zadatke, ali su izloženi i prevarama, lažnim prodavnicama i sadržaju napravljenom da ih navede na pogrešnu odluku.
Što više ovlašćenja agent dobije, to je teža kazna za grešku. Prevaranti već prave lažne prodavnice, predstavljaju se kao postojeće kompanije ili navode četbotove da preporuče sumnjive proizvode. Kada agent može samostalno da plati, pogrešna procena više nije samo netačan odgovor na ekranu, već stvaran finansijski gubitak.
Fotografija platne kartice otkriva osetljive informacije, a korisnik ne može uvek da zna kako će servis obraditi i čuvati te podatke. U slučaju Grok Bota rasprava se zaoštrila i zato što je Mask javno preporučio slanje slike kartice, dok uslovi i pravila privatnosti njegove kompanije upozoravaju korisnike da ne unose lične podatke u upite.
Tu je raskorak koji se ne može prećutati. Jednostavnost koju demonstracija obećava stoji nasuprot riziku deljenja finansijskih informacija, a račun na kraju plaća korisnik.
Kako se braniti: ograničenja, potvrda i virtuelne kartice
Bezbedniji pristup podrazumeva virtuelnu karticu sa ograničenim iznosom, proveru svake transakcije i ljudsku potvrdu pre plaćanja. Korisnici bi trebalo da provere koje podatke agent može da vidi i kojim nalozima može da pristupi.
Automatizovana kupovina može biti korisna, ali ne sme da znači nekontrolisan pristup novcu i ličnim podacima. Sistemi sa pristupom plaćanju moraju da kombinuju automatizaciju sa jasnim ograničenjima i potvrdom transakcija. U suprotnom, pogodnost se brzo pretvara u problem koji korisnik mora sam da rešava.
Maskov primer trebalo je da pokaže kako Grok naručuje proizvode uz minimalno angažovanje korisnika. Umesto toga, pažnja se preusmerila na nepažljivo deljenje podataka i mogućnost da drugi ljudi iskoriste ono što je ostalo vidljivo na snimku. Ni najnaprednija tehnologija nije imuna na osnovne greške u zaštiti privatnosti, a ovo bojište tek se otvara.
Često postavljana pitanja
Šta je tačno Mask objavio?
Mask je na platformi X podelio snimak ekrana porudžbine LEGO kompleta koji je naručio Grok Bot, a na snimku su se videli broj porudžbine, imejl adresa i poslednje četiri cifre platne kartice.
Da li je neko zaista otkazao Maskovu porudžbinu?
Korisnik poznat kao Enderman tvrdi da jeste, koristeći LEGO-ov automatizovani sistem podrške, ali Mask je porekao da je porudžbina otkazana. Ni jedna strana nije nezavisno potvrđena.
Koliko je bezbedno davati AI agentu podatke kartice?
Rizično. Stručnjaci preporučuju ograničena ovlašćenja, virtuelne kartice sa ograničenim iznosom i ljudsku potvrdu svake transakcije pre plaćanja.