Il garante dei dati del Regno Unito mette in guardia contro la discriminazione nelle neurotecnologie

Jan 26, 2024

In primo luogo, le persone erano preoccupate per i pregiudizi algoritmici. Ora temono che i bias dell’IA estendano questo pericolo. Ma presto, la grande preoccupazione potrebbe essere un pregiudizio nella neurotecnologia, un campo in rapida espansione che include Neuralink di Elon Musk e il rivale sostenuto da Jeff Bezos e Bill Gates, il produttore di impianti cerebrali Synchron.

L'autorità di regolamentazione della protezione dei dati del Regno Unito, l'Information Commissioner's Office (ICO), ha affermato oggi che si aspetta che i dispositivi che intercettano i segnali provenienti dal sistema nervoso "diventino diffusi nel prossimo decennio". Mentre i ricercatori stanno già utilizzando impianti cerebrali per combattere la demenza e aiutare le persone paralizzate a camminare di nuovo, "le neurotecnologie si stanno sviluppando rapidamente per l'uso nei settori del benessere personale, dello sport e del marketing e persino per il monitoraggio delle persone sul posto di lavoro".

L'ICO teme che pericolosi pregiudizi possano insinuarsi nei modelli sviluppati per la lettura e l'interpretazione dei neurodati, se i dispositivi non vengono valutati in particolare sulle persone neurodivergenti. Ad esempio, i sistemi neurotecnologici potrebbero avere il presupposto radicato che determinati modelli sono "indesiderabili... [quindi] quelli con tali modelli potrebbero quindi essere trascurati per promozioni o opportunità di lavoro".

"La neurotecnologia raccoglie informazioni personali intime di cui le persone spesso non sono consapevoli, comprese emozioni e comportamenti complessi. Le conseguenze potrebbero essere disastrose se queste tecnologie venissero sviluppate o implementate in modo inappropriato", ha affermato il responsabile dei rischi normativi dell'agenzia, Stephen Almond.

Synchron sta già conducendo test sull'uomo del suo impianto cerebrale: all'inizio di quest'anno aveva affermato che l'impianto "sembrava essere sicuro e consentiva ai pazienti di inviare SMS, e-mail, operazioni bancarie e acquisti online a mani libere e di comunicare le esigenze di cura usando il pensiero". Neuralink, che sostiene che la sua interfaccia cerebrale "ripristinerà l'autonomia di coloro che oggi hanno bisogni medici insoddisfatti e sbloccherà il potenziale umano domani", ha finalmente ottenuto l'approvazione della FDA per i test sull'uomo un paio di settimane fa.

Meta si è dilettato anche nello spazio dell'interfaccia cerebrale per diversi anni sotto la sua precedente veste di Facebook, ma si è ritirato nel 2021, sulla base del fatto che l'hardware consumer montato sulla testa era molto lontano. Ha deciso invece di concentrarsi sullo sviluppo di un dispositivo da polso in grado di rilevare i segnali nervosi motori elettrici, il genere di cose che potrebbero rivelarsi utili per interagire con il metaverso.

L'ICO ritiene che tali dispositivi indossabili saranno quelli che guadagneranno una reale trazione sul mercato tra diversi anni, essendo integrati nei fitness tracker, implementati sul posto di lavoro e utilizzati per giocare a giochi VR/AR.

Tuttavia, se hai visto quell'affascinante tweet del neurotecnologo Sterling Crispin, che ha lavorato sulle cuffie Vision Pro di Apple e le ha descritte come "una rozza interfaccia cervello-computer attraverso gli occhi"... no, l'ICO non se ne preoccupa. "Stiamo parlando della raccolta di dati direttamente dal cervello e dal sistema nervoso delle persone", mi ha detto un portavoce.

L'ICO ha affermato che pubblicherà linee guida specifiche sui neurodati entro il 2025. Nel frattempo, ha pubblicato un rapporto sull'argomento, che puoi leggere qui.

Altre notizie qui sotto.

Vuoi inviare pensieri o suggerimenti a Data Sheet? Scrivi qui.

David Mayer

La sezione delle notizie quotidiane di Data Sheet è stata scritta e curata da Andrea Guzman.

Google e Salesforce fanno squadra. Dopo una collaborazione in materia di analisi e big data nel 2017, i giganti della tecnologia Salesforce e Google hanno deciso di collaborare nuovamente. Quest'ultimo progetto consentirà alle aziende di utilizzare i propri dati insieme a modelli di machine learning personalizzati per anticipare le esigenze dei propri clienti. Comporterà l'integrazione di Data Cloud di Salesforce con BigQuery di Google e la piattaforma Vertex AI in modo che gli utenti possano portare qualsiasi modello di intelligenza artificiale che hanno addestrato in Vertex attraverso la piattaforma di Salesforce. L'accordo fa seguito agli annunci di Salesforce di quest'anno su nuovi strumenti di intelligenza artificiale come il suo assistente per la gestione delle relazioni con i clienti noto come Einstein GPT, e mentre Google segue Amazon e Microsoft nel mercato statunitense delle infrastrutture cloud, riferisce TechCrunch.