Oppdatert 20.09.2024.

Sjefen i Oracle skryter av hvor godt AI kan overvåke amerikanske politibetjenters framferd. Er dette starten på degradering til saueflokk?

Systemet

Oracle-sjefen forteller at kroppskameraer (og kameraer i politibiler) alltid vil være påslått. De kan ikke slås av. Hvis en politibetjent må på do, slås kameraet ikke av. I stedet gjøres opptak på en måte som gjør at ingen kan se opptaket uten en rettslig kjennelse. Men det sendes uansett til hovedkvarteret der AI kontinuerlig følger med på alle opptak.

Han forteller videre at politifolk vil oppføre seg skikkelig fordi det er kontinuerlig opptak og overvåking av alt de gjør. Også borgere vil oppføre seg ordentlig og lovlydig fordi det gjøres opptak og rapportering av dem også (når de har å gjøre med en politibetjent).

AI vil overvåke kameraene. Det er ikke mennesker som ser på kameraopptakene. Det er AI som avgjør om det skjer en uønsket hendelse.

Hvis det oppstår et problem, vil AI rapportere det til den korrekte personen, enten det er sheriffen eller politisjefen eller hvem som måtte være rette instans.

Tanker

Dette høres kanskje veldig bra ut. Vi vil jo at politifolk skal oppføre seg ordentlig og lovlydig.

Men jeg lurer på om AI vil være i stand til å tolke alle situasjoner riktig. Vil det bli mange falske alarmer? Og vil det bli mange tilfeller hvor AI ikke forstår at politibetjenten oppfører seg feil? Er AI egentlig et pålitelig verktøy til slikt?

Man kan jo også lure på hvor mange som gidder å være politibetjent i et sånt system. Bare folk som ikke klarer å få seg annen jobb?

Og hva med overvåking av politisjefer som kan gjøre tvilsomme hestehandler med tvilsomme aktører?

Det tar vel ikke lange stunden før et tilsvarende system tas i bruk for å overvåke om butikkansatte oppfører seg i henhold til butikk-kjedens retningslinjer. Eller kanskje det allerede har vært i drift en stund?

Mange moderne biler benytter i stor grad overvåking via kameraer.

En variant av slik kameraovervåking er internett-overvåking. Både apper, nettlesere og operativsystemer brukes for å finne ut hva jeg gjør og hva jeg interesserer meg for.

Om jeg skulle mene at det er greit nok at AI får fullt overblikk over min oppførsel, interesser, økonomiske situasjon osv, vil jeg neppe synes at det er greit at disse opplysningene faller i hendene på dataskurker. Og nå for tiden skjer det datainbrudd og utsuging av persondata temmelig ofte.

Kilder

• Oracle’s Larry Ellison’s AI-Powered Surveillance Dystopia Is Already Here (404 Media)
• Billionaire Larry Ellison says a vast AI-fueled surveillance system can ensure ‘citizens will be on their best behavior’ (Business Insider)
• Goldman Sachs: AI Is Overhyped, Wildly Expensive, and Unreliable (404 Media)
• Tesla workers shared sensitive images recorded by customer cars (Reuters)
• Social media and online video firms are conducting ‘vast surveillance’ on users, FTC finds (The Guardian)