Candriam fa il punto sull’attività di engagement sulle tecnologie di riconoscimento facciale

Un aggiornamento relativo all’attività di engagement intrapresa con le aziende per affrontare i rischi per i diritti umani posti dalla tecnologia di riconoscimento facciale (FRT). Lo ha pubblicato Candriam che, insieme ad altri 20 investitori, tra cui Robeco, Aviva Investors, Domini Impact Investments LLC, ha condotto un’indagine su 15 aziende coinvolte nell’FRT per capire come queste valutano, gestiscono e mitigano i rischi legati ai diritti umani.

LE QUATTRO AREE DI PRINCIPALE CRITICITA’

Le quattro aree principali di criticità evidenziate nel rapporto riguardano il potenziale rischio di bias razziale e di genere, i problemi di privacy, la discutibile precisione della tecnologia e l’uso improprio dell’FRT. La tecnologia di riconoscimento facciale si evolve ad un ritmo superiore alla relativa regolamentazione. Questo impone una maggiore sorveglianza e comprensione da parte delle aziende coinvolte in questo settore per garantire la tutela dei diritti umani.

I DIRITTI UMANI NELL’USO DELL’AI E DELL’FRT

“Rivestiamo un ruolo importante da svolgere nell’incoraggiare le società in cui investiamo a identificare, gestire e mitigare i rischi per i diritti umani nell’uso dell’AI e dell’FRT. Il nostro report e i suoi risultati si propongono di spingere le aziende ad adottare una due diligence e a monitorare il rispetto dei diritti umani, inducendole a esaminare queste problematiche, a prenderne atto e ad affrontare i rischi posti dall’FRT” fa sapere Benjamin Chekroun, analista su Proxy Voting ed Engagement di Candriam.

REQUISITI LEGALI E PRINCIPI ETICI

Dal momento che la regolamentazione fatica a tenere il passo con la tecnologia diventa essenziale che le aziende vadano al di là dei requisiti legali e si concentrino su ciò che è etico. “Le aziende dovrebbero disporre di una governance specifica per i rischi legati ai diritti umani e dovrebbero pubblicare una policy dettagliata in materia di diritti umani, con riferimenti alle modalità di utilizzo dell’AI e dell’FRT”, spiegano gli esperti di Candriam.

NON CI SI PUO’ AFFIDARE A DECISIONI ASSUNTE DA UN ALGORITMO

Secondo i quali è opportuno non incoraggiare le aziende nella vendita di tecnologie di riconoscimento facciale alle forze dell’ordine fino a quando non verrà introdotta una regolamentazione adeguata. “L’FRT dovrebbe infatti limitarsi a fornire supporto all’attività umana di identificazione e autenticazione. Non ci si può affidare a decisioni assunte da un algoritmo e, pertanto, la supervisione e il monitoraggio umano sono essenziali”.

MICROSOFT, MOTOROLA E THALES

Microsoft, Motorola Solutions e Thales sono tra le aziende che si sono distinte nell’impegno nel mitigare i rischi per i diritti umani dell’uso dell’AI e dell’FRT. “Per esempio, il controllo passaporti assistito dalla tecnologia FRT di Thales impone un monitoraggio rigoroso e prevede la distruzione dei dati degli utenti dopo ogni passaggio” riferiscono i manager di Candriam.

APPUNTAMENTO AL 2023 PER NUOVI DATI

L’aggiornamento sui risultati dell’attività di engagement sulle tecnologie di riconoscimento facciale è lo step successivo alla campagna  lanciata da  Candriam a marzo 2021 e alla firma dell’Investor Statement sul riconoscimento facciale da parte di 55 investitori globali a giugno 2021. Candriam ha inoltre aderito alla Collective Impact Coalition (CIC) for Digital Inclusion, recentemente lanciata dalla World Benchmarking Alliance, per promuovere l’uso responsabile dell’AI. Candriam ha  ora in programma di dialogare con ogni azienda su come implementare le best practice suggerite nel report nelle rispettive attività e si propone di rendere noti nel 2023 i risultati di questa seconda fase dell’iniziativa di engagement.