Ali lahko policija dostopa do mojih pogovorov ChatGPT?

Pogovorni asistenti so iz zgolj tehnološke zanimivosti postali improvizirani zaupniki milijonov ljudi, kar odpira veliko vprašanje: ali lahko policija prebere, kaj govorimo ChatGPT ali drugim klepetalnim robotom? Dvomi so se zaradi virusnih videoposnetkov in privlačnih naslovov pomnožili, vendar je pravi odgovor odvisen od več dejavnikov: zakona (zlasti v Španiji), politik platforme in izjemnih varnostnih okoliščin.

Najprej in predvsem je pomembno pojasniti, da klepetalni robot ni ne prijatelj ne strokovnjak, ki bi ga varovala zaupnost; pravno gledano je bolj podoben internetnemu iskanju kot tradicionalnemu zasebnemu pogovoru . Ta razlika je ključna: določa, kako je takšna vsebina zaščitena, katere sodne odredbe jo lahko zahtevajo in v kakšnih okoliščinah lahko ponudnik umetne inteligence pregleda sporočila iz varnostnih razlogov.

Kaj lahko policija v Španiji stori z vašimi klepeti z umetno inteligenco?

Strokovnjaki za tehnološko pravo poudarjajo jasno izhodišče: organi pregona ne morejo dostopati do vaših pogovorov ChatGPT »na zahtevo «. V praksi obstajata dva načina za pridobivanje informacij in oba zahtevata zaščitne ukrepe: iskanje vaše naprave (računalnika ali mobilne naprave), kar zahteva vaše soglasje ali nalog za preiskavo, in podatki, ki jih hrani ponudnik storitev umetne inteligence, kar zahteva sodno odredbo, ki podjetje prisili k sodelovanju.

V Španiji člen 18.3 ustave varuje tajnost komunikacij in dovoljuje dostop do njih le s sodnim nalogom. To vključuje sporočila, poslana prek digitalnih kanalov , z ustreznimi niansami, odvisno od tega, ali so šifrirana od konca do konca (E2E) ali ne. Pri storitvah E2E, kot je WhatsApp , niti sama platforma ne more prebrati vsebine; zato je za dostop do telefona pogosto potreben sodni nalog. Na drugih platformah brez šifriranja od konca do konca lahko strežniki shranjujejo vsebino in morajo s sodnim dovoljenjem sodelovati.

Ta dolžnost sodelovanja je opisana v zakonu o kazenskem postopku. Natančneje, člen 588b zavezuje ponudnike telekomunikacijskih in informacijsko-družbenih storitev, da pomagajo pravosodnemu sistemu, kadar obstaja sodna odredba. Poleg tega je prestrezanje zasebnih komunikacij omejeno na posebne primere: naklepna kazniva dejanja z najvišjo kaznijo najmanj treh let zapora, dejanja, ki jih storijo kriminalne združbe, terorizem ali kazniva dejanja, storjena z uporabo informacijskih ali komunikacijskih tehnologij.

V svetu umetne inteligence policija ne "vidi" vaših klepetov zgolj: za to potrebuje pravno podlago in sodno odredbo od ponudnika . In če gre za dostop do vaše naprave, je poleg upravičenega razloga potrebno tudi vaše soglasje ali dovoljenje za dostop. Zamisel, da bi nekdo lahko pregledal vaše pogovore zgolj iz radovednosti ali zaradi motečega razloga, ni v skladu s španskimi pravnimi standardi.

Še ena pomembna točka: več pravnih virov poudarja, da postavljanje vprašanja sistemu umetne inteligence ni enako kot klepet z osebo. V pravne namene je to podobno avtomatiziranemu povpraševanju , ki nikomur ne daje proste roke, vendar pojasnjuje, zakaj tem interakcijam ni zagotovljena enaka zaupnost kot pogovorom med dvema posameznikoma, ki so strožje zaščiteni s tajnostjo komunikacij.

Ali pomaga način brez beleženja zgodovine ali brisanje zgodovine brskanja? Delno. Ta dejanja preprečujejo shranjevanje sledi v vašem brskalniku ali aplikaciji, vendar ne izbrišejo zapisov, ki jih ponudnik hrani v svojih sistemih . Če sodnik podjetju naloži, naj izroči podatke, lahko to vključuje metapodatke (datume, naslove IP) in celo vsebino interakcij, odvisno od njegove politike hrambe in veljavnega pravnega okvira. Če vas skrbi, da bi vam lahko sledili, se nekateri uporabniki za večjo anonimnost zatečejo k uporabi Tora s ChatGPT .

Obstajajo izjemne in nujne okoliščine. Če se zazna neposredna grožnja, lahko policija ukrepa, da prepreči nadaljnjo škodo, vendar splošno pravilo ostaja sodno posredovanje . Poleg tega postane postopek bolj zapleten, ko so podatki na strežnikih, ki pripadajo tujim podjetjem: pride v poštev mednarodno sodelovanje, organi ciljne države pa morajo potrditi, da je zahteva ustrezna, sorazmerna in utemeljena.

Kaj OpenAI počne z vašimi pogovori: moderiranje, človeški pregled in obvestila

OpenAI je javno priznal, da v določenih scenarijih analizira in usmerja pogovore specializiranim ekipam za odkrivanje nevarnih uporab, vključno z načrtovanjem škode proti tretjim osebam. Podjetje opisuje notranji postopek: če njegovi varnostni sistemi prepoznajo znake tveganja, usposobljeno osebje pregleda primer in lahko sprejme ukrepe, kot je blokiranje računov ali, če obstaja neposredna fizična grožnja drugim, prijava oblasti.

Hkrati je podjetje pojasnilo, kako ravna z občutljivimi interakcijami na področju duševnega zdravja. Priznalo je pretekle pomanjkljivosti in potrebo po okrepitvi odzivanja na krize , pri čemer je izjavilo, da te odločitve usmerja zaščita uporabnikov in tretjih oseb. Vendar pa pojasnjuje, da se primeri samopoškodovanja ali samomorilnih misli zaradi njihove posebne občutljivosti in posledic za zasebnost ne prijavijo samodejno policiji, čeprav bi sprožili varnostne ukrepe znotraj samega izdelka.

Poleg obvestil in objav na blogu je razkrito tudi besedilo politike zasebnosti: OpenAI namerava deliti podatke z organi oblasti, kadar to zahteva zakon, in dovoljuje razkritje informacij v "dobri veri", da bi preprečil goljufije ali druge nezakonite dejavnosti , zaščitil varnost in integriteto svojih izdelkov ali se branil pred pravno odgovornostjo. Ta vrsta klavzule je v panogi pogosta, čeprav sproža vprašanja o tem, kdaj lahko ukrepajo brez uradnega sodnega naloga, odvisno od veljavnega pravnega okvira.

Ta poteza je ponovno sprožila razpravo o tem, kje potegniti mejo med zasebnostjo in varnostjo. Vprašanja ostajajo neodgovorjena, na primer kateri natančni signali sprožijo človeški pregled ali kateri specifični prag upravičuje obveščanje organov pregona. To pomanjkanje podrobnosti spodbuja zaskrbljenost med uporabniki in strokovnjaki za zasebnost, ki pozivajo k večji preglednosti glede meril, zaščitnih ukrepov, revizij in omejitev hrambe podatkov.

Premik ima kontekst: dokumentirane so bile škodljive interakcije s klepetalnimi roboti, potekajo pa tudi preiskave, s katerimi se ugotavlja, ali so določeni odzivi prispevali k poslabšanju psiholoških stanj ali vodili do nevarnih odločitev . Hkrati narašča število pritožb in tožb, ki postavljajo pod vprašaj, ali so podjetja uvedla pogovorne tehnologije z zadostnimi zaščitnimi ukrepi. Zdi se, da OpenAI, ki dnevno obdela milijarde poizvedb, nihalo usmerja v smeri zmanjševanja tveganj, tudi za ceno uvedbe mehanizmov pregleda, ki obremenjujejo zasebnost.

Druga pomembna točka je odsotnost poklicne tajnosti. Izmenjava s ChatGPT ni zaščitena z "zaupnostjo" terapije, verske izpovedi ali pravnega nasveta. Če sodnik odredi objavo informacij, pomembnih za sodni postopek , se podjetje ne more sklicevati na neobstoječo tajnost. Pravzaprav so vodstvo OpenAI javno izjavili, da bi lahko bili ob sodni odredbi prisiljeni posredovati podatke, pa naj bo to še tako neprijetno.

Skratka (brez uporabe te eksplicitne formule): pristop OpenAI združuje avtomatizirane sisteme za zaznavanje, omejen človeški pregled in možnost stika s policijo, kadar obstaja jasna in neposredna nevarnost za druge. Drobni tisk in zunanji nadzor nad temi procesi bosta ključnega pomena pri ocenjevanju njihove sorazmernosti in ohranjanju zaupanja uporabnikov.

Primeri, virusne prevare in mednarodno sodelovanje: od TikToka do dnevne sobe

Priljubljen videoposnetek na TikToku je ponovno sprožil dvome s trditvijo, da je policija pokazala domnevne izpise pogovorov s klepetalnim robotom. Ustvarjalec videoposnetka je namignil, da je njena zgodba za občinstvo morda izmišljena, pravni strokovnjaki pa scenarij zavračajo, kot je predstavljen : brez dokazov o kaznivem dejanju, sodnega naloga in potrebnega kompleksnega mednarodnega sodelovanja se ne ujema s pravno realnostjo. Dostop do podatkov na strežnikih tujega podjetja zahteva formalne kanale in potrditev v ciljni državi.

Kadar je ponudnik podjetje s sedežem zunaj Španije, pride v poštev mednarodno pravosodno sodelovanje. Nacionalni nalog ni dovolj: obdelati ga je treba po ustreznih kanalih , organi druge države pa ga morajo šteti za ustreznega, upravičenega in sorazmernega. Ta postopek dodaja čas in filtre ter je eden od razlogov, zakaj nima smisla razmišljati o tem, da bi policijske sile rutinsko "takoj" brale klepete.

Prav tako ne smemo pozabiti na regulativne razlike med jurisdikcijami. Prihod ChatGPT v državo dodaja nianse glede jurisdikcije in skladnosti, ko gre za čezmejne zahteve. V Španiji je za dostop do zasebnih komunikacij potrebno dovoljenje sodnika, medtem ko v Združenih državah obstajajo pravni mehanizmi, ki uradnikom omogočajo, da v določenih primerih neposredno zahtevajo podatke . Kljub temu morajo podjetja pri obdelavi podatkov državljanov Evropske unije upoštevati Splošno uredbo o varstvu podatkov (GDPR) in druge predpise EU, vključno z obveznostmi sorazmernosti in minimizacije podatkov.

Razprava ni omejena le na umetno inteligenco. Obstajajo že precedensi s povezanimi domačimi napravami. V odmevnem primeru v ZDA so oblasti zahtevale posnetke iz Amazonovega pametnega zvočnika, potem ko so posumile, da je morda posnel zvoke kaznivega dejanja. Podjetje se je uprlo, pri čemer se je sklicevalo na pomisleke glede zasebnosti, a je na koncu ugodilo, potem ko je lastnik privolil in so bile izdane sodne odredbe. V drugem primeru je sodnik ugotovil, da obstajajo dovolj dokazov za domnevo, da obstajajo ustrezni posnetki, in ti so bili nato izročeni po sodnem nalogu.

Ti primeri ponazarjajo osnovno načelo: s sodnim nalogom so ponudniki storitev dolžni sodelovati , pa naj gre za zvočnik, storitev za sporočanje ali klepetalni robot. To ne pomeni, da imajo proste roke: zahteve morajo biti specifične in sorazmerne. Vendar to razbija idejo o digitalni "izpovedni tajnosti", kjer vse ostane varno ne glede na vse.

Drugo razširjeno prepričanje je, da se kazenske evidence lahko zahtevajo le v izjemno resnih primerih. Resničnost je bolj niansirana: ni zaprtega seznama "dovoljenih" kaznivih dejanj, za katera se lahko zahtevajo informacije . V Španiji zakon določa pragove in posebne okoliščine (naklepna kazniva dejanja določene resnosti, terorizem, organizirani kriminal ali kazniva dejanja, storjena z uporabo IKT). V praksi sodnik odloča na podlagi konteksta in dokazov ter se, kadar koli je to mogoče, odloči za manj invazivne ukrepe.

Pomembno je poudariti pravi obseg »izbrisa zgodovine«. Tudi če izbrišete vidne klepete, lahko ponudnik še nekaj časa hrani zapise zaradi tehničnih, varnostnih ali pravnih razlogov. Poleg tega način brez beleženja zgodovine vpliva samo na vašo napravo; ne izbriše tistega, kar je bilo že poslano z nje na strežnike.

Kje torej ostane uporabnik? Smiselno je domnevati, da lahko tisto, kar vtipkamo v klepetalni robot, postane pravno dopustna informacija, če sodnik meni, da je relevantna . To ne pomeni živeti v paranoji, temveč razumeti pravila igre: ni poklicne tajnosti, obstajajo politike moderiranja, ki lahko stopnjevajo primere z visokim tveganjem, in obstajajo formalni postopki, s katerimi organi zbirajo podatke, kadar je to primerno.

• V Španiji, Za dostop do vsebine je potrebno sodno dovoljenje.ali registrirati svojo napravo ali naročiti platformi dostavo podatkov.
• Ponudniki umetne inteligence lahko pregled interakcij v varnostnih scenarijih in če obstaja neposredna grožnja tretjim osebam, obvestiti policijo.
• Izbriši ali uporabi način brez beleženja zgodovine Ne izbriše dobaviteljevih zapisov.Dostavljeni so lahko, če je naročilo veljavno.
• Če je dobavitelj v drugi državi, mednarodno sodelovanje Postopek doda filtre in čase.

Koristno si je zapomniti tudi tehnične razlike: platforme s šifriranjem od konca do konca ne morejo brati vaših sporočil (ključe imata le pošiljatelj in prejemnik), medtem ko storitve brez šifriranja E2E in klepetalni roboti shranjujejo informacije na svojih strežnikih . V slednjem primeru so lahko vsebina ali metapodatki na voljo organom z ustreznim dovoljenjem sodišča.

Na področju pogovorne umetne inteligence mnogi uporabniki zamenjujejo podjetje, izdelek in pristojnost. OpenAI lahko v določenih primerih deluje brez sodnega naloga, če to dovoljuje pravni okvir (na primer za zaščito varnosti ali preprečevanje nezakonitih dejavnosti v skladu s svojimi politikami), vendar to ne pomeni samovoljne predaje podatkov: še vedno obstajajo pravila, nadzor in pravna tveganja za podjetje, če jih prekorači.

Razumljiva je tudi zaskrbljenost glede morebitnih lažno pozitivnih rezultatov: kaj če nekdo dostopa do vašega računa in vas prikazuje v slabem svetlu? Zato so merila za aktivacijo pregledov in usposobljene ekipe tako pomembne . Te ekipe morajo biti sposobne razlikovati med kontekstom, ironijo in lažnim predstavljanjem ter se morajo obrniti na oblasti le, če obstaja resnična in neposredna grožnja drugim, kot navaja podjetje.

Platforme bi morale bolje sporočiti, kako delujejo njihovi zaščitni ukrepi: obdobja hrambe podatkov, mehanizmi notranje revizije, omejitve ponovne uporabe pogovorov, politike dostopa osebja in protokoli obveščanja uporabnikov, kjer je to zakonsko mogoče . Ta preglednost zmanjšuje negotovost in pomaga javnosti razumeti, zakaj ima varnost včasih prednost in kdaj prevlada zasebnost.

Operativni sklep za vsakogar, ki uporablja umetno inteligenco, je čista zdrava pamet: ne delite informacij, ki jih ne bi navedli pisno na uradnem obrazcu ; preglejte nastavitve zasebnosti; omogočite dvostopenjsko preverjanje; in če boste razpravljali o občutljivih zadevah, premislite, ali je primerno, da to storite z uporabo te vrste orodja ali s strokovnjakom, ki je vezan na molčečnost ali pravno tajnost.

Vsak, ki dvomi o policijskih postopkih, bi moral ločiti med mitom in resničnostjo. Policija nima "zadnjih vrat" za vaše klepete, podjetja pa ne morejo prezreti španskega ali evropskega pravnega okvira. Obstaja pa pravni mehanizem, ki z zaščitnimi ukrepi in sorazmernostjo omogoča dostop do podatkov, kadar preiskava ali preprečevanje škode to upravičuje . Razumevanje tega zmanjšuje neutemeljene strahove in hkrati nas še naprej spodbuja k zahtevi po preglednosti in odgovornosti tistih, ki ravnajo z našimi podatki.

Ko ločimo hrup od pravil, postane slika jasna: klepeti ChatGPT niso sveti, a tudi niso knjiga, odprta za muhe. Med pravico do zasebnosti in potrebo po zaščiti posameznikov obstajajo ravnovesja, pravila in pragovi . V Španiji ta vključujejo sodni nadzor in stroge obveznosti sodelovanja, na strani platforme pa sisteme za odkrivanje s človeškim pregledom in skrajno možnostjo poročanja oblastem v primeru resnih in neposrednih groženj.

Povezani članek:

Končni vodnik za varnostno kopiranje klepetov v ChatGPT

Isaac

Strasten pisec o svetu bajtov in tehnologije nasploh. Rad delim svoje znanje s pisanjem in to je tisto, kar bom počel v tem blogu, saj vam bom pokazal vse najbolj zanimive stvari o pripomočkih, programski opremi, strojni opremi, tehnoloških trendih in še več. Moj cilj je, da vam pomagam krmariti po digitalnem svetu na preprost in zabaven način.