I sistemi di intelligenza artificiale in realtà ci stanno ingannando, ma come lo stanno facendo e perché?
Solo nel 2021 erano presenti decine di sistemi di Captcha sul mercato, il più importante dei quali, il reCAPTCHA di Google, in uso da più di 6.3 milioni di siti web.
A utilizzare i Captcha come misura di sicurezza nel reset di una password o in tentativi di login è il 16% dei grandi siti eCommerce. Da un lato, proteggono da spam e ordini finti; dall’altro, proteggono gli account dei consumatori da attacchi volti a impossessarsi dei loro dati.
Il problema però è che siamo noi umani a svolgere attività presentate come automatiche ma delegate ai singoli soggetti. Questo si estende anche per le casse automatiche nei supermercati, i chioschi self-service nei fast food, il riconoscimento delle immagini per Google, il tool “Io non sono un robot” e tanti altri esempi.
Questo concetto è definito dalla studiosa Astra Taylor come fauxtomation, ossia falsa automazione. È un fenomeno per cui il sistema tecnologico si limita a coordinare l’attività umana sullo sfondo. In molti casi quindi il lavoro non è stato automatizzato, ma semplicemente trasferito da un lavoratore retribuito al cliente. In questo modo è delegata la “fatica” e si risparmia sui costi.
Non si tratta tanto di una truffa, quanto di un processo di progressiva dequalificazione. I soggetti sono così forzati a fare lavori noiosi e ripetitivi per dare sostanza ai sistemi “automatizzati”. Il lavoro viene quindi svalutato, rendendo il crowdworker facilmente sostituibile.
©
📸 Credits: Unsplash
27 Settembre 2023