U okrugu Derbyshire otvorena je istraga protiv policajca koji je navodno koristio generativnu veštačku inteligenciju za kreiranje dokaznog materijala u više slučajeva. Službenik je udaljen iz službe dok Derbyshire policija i Crown Prosecution Service vode istragu. Nacionalni centar PoliceAI upozorio je policiju da zbog rizika od "halucinacija" ne koristi generativnu AI za sudske izjave. Slučaj je prvi te vrste u Velikoj Britaniji i pojačava zabrinutost oko zloupotrebe AI u pravosudnim postupcima.
Skandal u policiji: Policajac iz Derbyshirea optužen za falsifikovanje dokaza pomoću generativne AI
Illustration by Tag Hartman-Simkins / Futurism. Source: Shutterstock
U okrugu Derbyshire u Engleskoj otvorena je krivična istraga protiv policajca koji je, prema izveštajima, navodno koristio generativnu veštačku inteligenciju da kreira dokazni materijal u nekoliko predmeta. Službenik je udaljen iz službe dok Derbyshire policija i Crown Prosecution Service (Kraljevsko tužilaštvo) istražuju slučaj, prenosi BBC i Financial Times.
Šta se tačno dogodilo
Prema izjavama zvaničnika, protiv policajca je pokrenuta istraga zbog sumnje na ometanje pravde nakon navodnog korišćenja AI sistema za izradu dokaza. Osumnjičeni nije uhapšen, ali je privremeno udaljen iz službe dok traju provere i krivična istraga.
„Pokrenuta je krivična istraga zbog navoda o ometanju pravde nakon navodnog korišćenja AI sistema od strane jednog oficira da kreira dokazni materijal u više slučajeva“, izjavio je glasnogovornik Derbyshire policije za Financial Times.
Kontext i zabrinutosti
Ovo je prvi poznati slučaj te vrste u Velikoj Britaniji i pojavio se ubrzo nakon što je novoosnovani nacionalni centar PoliceAI upozorio policijske snage da prestanu da koriste generativnu veštačku inteligenciju pri sastavljanju sudskih izjava zbog rizika od „halucinacija“ — netačnih ili izmišljenih informacija koje modeli mogu proizvesti.
Alex Murray, rukovodilac centra PoliceAI, izjavio je za Financial Times: „Rekli smo nekim policijskim snagama: ‘Ne možete to raditi, jer nismo prošli sve provere i balansiranja. Moramo to malo usporiti.’“
Širi problem
Iako su do sada prijavljeni slučajevi AI-halucinacija u policijskim izveštajima koji su najčešće proizašli iz nehata ili nepažnje — kao što je bizaran primer iz Jute u SAD, kada je izveštaj sugerisao da se oficir pretvorio u žabu — istraga u Derbyshireu ukazuje na mogućnost namernog zloupotrebljavanja tehnologije. Slučaj podseća i na incident u Meinu u SAD prošle godine, kada su policajci objavili fotografije "zaplene" koje su bile jasno prerađene generativnom AI.
Zašto je to važno
Navodi o falsifikovanju dokaza pomoću AI podižu ozbiljna profesionalna i etička pitanja: ugrožavaju poverenje javnosti u rad policije, mogu ugroziti sudske postupke i vode do pogrešnih presuda. Stručnjaci pozivaju na strožiju regulaciju, jasne procedure za upotrebu AI u policiji i obavezne provere izvora i autentičnosti dokaznog materijala.
Izvori: BBC, Financial Times, izjava centra PoliceAI.
Pomozite nam da budemo bolji.
