Steve Wozniak a fait part de ses réflexions sur la nouvelle vague d’outils alimentés par l’IA qui ont fait couler beaucoup d’encre ces derniers mois.
S’adressant à la BBC cette semaine, le cofondateur d’Apple a déclaré qu’il craignait que la technologie soit de plus en plus utilisée par les cybercriminels pour rendre les escroqueries en ligne plus convaincantes et donc plus difficiles à repérer.
IA et escroqueries, une menace majeure à venir ?
Le chatbot ChatGPT d’OpenAI et son équivalent Bard de Google font partie d’un nombre croissant d’outils d’IA générative capables de converser par écrit de manière naturelle et humaine. Ils sont si puissants qu’un récent rapport de Goldman Sachs suggère que la technologie aura un impact sur environ 300 millions de postes de travail dans les années à venir, tout en ajoutant que beaucoup de ces emplois seront probablement assistés par la technologie plutôt que remplacés.
Envisageant un aspect tout à fait plus désagréable de la technologie, Wozniak a déclaré :
« L’IA est tellement intelligente qu’elle est ouverte aux mauvais joueurs, ceux qui veulent vous tromper sur leur identité. »
Dans une interview accordée à CNN la semaine dernière, M. Wozniak a exprimé un point de vue similaire, mais il a ajouté qu’il espérait que l’IA serait entraînée à repérer les escroqueries qui utilisent la même technologie, puis à alerter la cible pour qu’elle prenne les mesures appropriées pour se protéger.
Mais il n’y a pas que les escroqueries par courrier électronique qui peuvent être stimulées par l’IA. Un récent article du Washington Post a révélé comment des criminels déploient déjà une technologie d’IA pour cloner la voix d’une personne à partir d’un court échantillon de son discours. Ils utilisent ensuite cette voix, fausse mais très convaincante, dans le cadre d’une escroquerie téléphonique pour inciter un parent ou un ami à leur remettre de l’argent.
Le youtubeur Defend Intelligence, nous fait une démonstration dans cette vidéo de l’utilisation de l’IA pour détourner la voix d’Emmanuel Macron et lui faire lire un extrait de 1984.
Une demande de réglementation
Dans son entretien avec la BBC, M. Wozniak a également demandé que la nouvelle technologie de l’IA soit réglementée afin de s’assurer que ses créateurs respectent certaines limites.
M. Wozniak fait partie des quelque 1 000 experts en technologie qui ont signé une lettre en mars demandant une pause de six mois dans le développement de certains outils d’IA afin de pouvoir élaborer un ensemble de lignes directrices pour leur déploiement en toute sécurité. Elon Musk fait également partie des signataires de la lettre.
L’ingénieur en technologie qui a construit le premier ordinateur Apple avec Steve Jobs il y a cinq décennies a déclaré à la BBC qu’il souhaitait que la réglementation vise les grandes entreprises technologiques qui « ont le sentiment de pouvoir s’en tirer à bon compte« , tout en s’interrogeant sur l’efficacité d’une telle réglementation, ajoutant :
« Je pense que les forces qui poussent les entreprises à s’engager dans la voie de l’innovation et de l’innovation ne sont pas les mêmes : Je pense que les forces qui poussent à l’argent l’emportent généralement, ce qui est plutôt triste ».