Index – Tudomány – Rasszista városvezető lenne a mesterséges intelligencia
Miközben a mesterséges intelligencia töretlenül tör előre az élet szinte minden területén, a kezdeti nagy lelkesedés után most már egyre több kritikus hangot is hallani, amik vitatják, szükségünk van-e rá igazán létünk könnyűvé tételéhez, még ha nem is lenne elviselhetetlen? Vagy lehet, hogy az lenne?
Egy új vizsgálat az intelligens városokat állította fókuszba, amiket eddig a jövő metropoliszaiként hirdettek, de az AI könnyítésein túl most már az erkölcsi kérdések is terítékre kerültek és a helyzet korántsem egyszerű.
A mesterséges intelligencia fejlődése befolyásolja a városok fejlődését is, de az AI változására pedig a mi cselekedeteink hatnak. Az például, ahogyan közlekedünk, vásárolunk, fogyasztunk, segít a tömegközlekedés vagy a járművek vagy a szokási statisztikák felállításában. Az egyéni adatokból összeáll egy város rendszereinek térképe.
Az intelligens városok szenzorrendszerekből gyűjtenek információkat és érzékelő hálózatokat használnak az adatok számszerűsítésére. Ennek alapján az okos épületek képesek kiszámítani, hogy mennyi lakóinak energiafogyasztása, de az AI azt is számszerűsítheti, hogy hány ember használja egyidejűleg a metrót, vagy képes adott időre statisztikát készíteni erről.
Ki követi majd el a bűnt?
Az egyik legtöbb kérdést a prediktív rendészet veti fel, ami a várható bűncselekmények azonosítására szolgálna, mielőtt azok megtörténnének. Eszünkbe jutott Philip K. Dick (1956-os!) Különvéleménye? Nem véletlenül, bár prekogokról nem tudunk, de a könyv–, filmbeli Precrime bűnmegelőző cég a mai AI-nak felel meg elvben, önvezető autók és automatikus lakások pedig már léteznek, ami a könyv születésekor még erősen sci-fi volt, de a film bemutatásakor már egyre közeledett.
Az amerikai Palantir mesterséges intelligencián alapuló bűnmegelőzési rendszert már több amerikai városban bevetették, hogy előre jelezze, hol történnek majd bűncselekmények, és kik lesznek az érintettek. De egy személytelen, erkölcstelen rendszer, mi alapján határozza meg, mi vagy ki a jó és a rossz? Diszkriminatív, rasszista és sokszor nem is hatékony a bűnüldözésben. 2021 decemberében a Gizmodo és a The Markup közzétett egy jelentést, amely szerint a PredPol prediktív analitikai szoftver faji elfogultságot mutatott, mikor főleg latinók és feketék által lakott környékeket célzott meg, míg a fehér közép- és felső osztálybeli területekre vonatkozó bűnügyi előrejelzések hiányoztak.
2023 októberében a The Markup vizsgálata felfedte, hogy a PredPol algoritmusa által generált bűnügyi előrejelzések fél százalékot értek csak el. Nem túl hatékony!
Erkölcstelen polgármester lenne az AI
Igaz, az AI bármitől képes jelentéseket, beszámolókat készíteni, de értelmezni nem tudja és kontextusában elsikkad az egyediség, az eredetiség, a szubjektivitás. Ez egy amorális intelligencia, közömbös (egyelőre) a jó és rossz kérdéseivel szemben.
Pedig ha a városok irányításáról van szó, akkor ennek is fontosnak kell lennie. A városvezetőket a rendszer mentesítheti bizonyos döntések alól, időt spórolhat nekik a gyors adatelemzésekkel, de ha ez társadalmi igazságtalanságot von maga után, akkor fabatkát sem ér az egész. Márpedig az új kutatások szerint az AI döntései hátrányos helyzetbe hozzák a faji kisebbségeket a lakhatás, az ingatlanügyek területén is. Ráadásul nagyon energiaigényes.
Ahogy az egész technológiai szektor, ez is komoly szén-dioxid-kibocsátással jár!
De a tervek kétségtelenül szépek, a szaud-arábiai NEOM vállalat teljesen önfenntartó városok tervezését képzelte el, egyik projektje a The Line (A vonal) város, amelyet számos mesterséges intelligencia-rendszer kezel. Embereket szállító önvezető járművek, ételeket főző és felszolgáló robotok, és viselkedésünket előre jelző algoritmusok várnak majd a Vörös-tenger partján utaktól, autóktól és károsanyag-kibocsátásoktól mentes környezetben. 100 százalékban megújuló energiával fog működni egy 170 kilométer hosszú területen, ami 9 millió lakosnak ad majd otthont.
Ott majd megláthatjuk, hogy a mesterséges intelligencia autonómiájának növekedésével a miénk csökkenni fog-e, hiszen egy, az AI által irányított város megkérdőjelezné az ember autonómiáját és jólétét is azzal, hogy ő egy „személyben” döntene sorsunkról. Vehetünk-e fel lakáshitelt, köthetünk-e biztosítást, keveredhetünk-e bűnözők közé, ezeket a mesterséges polgármester határozná meg.
(Borítókép: Richard Humphries / Bloomberg / Getty Images)