Un chercheur de l’Université de Stanford, Michal Kosinski, affirme avoir développé une IA capable de détecter avec une grande précision l’intelligence, les préférences sexuelles et les opinions politiques d’une personne en analysant simplement son visage. Bien que Kosinski prétende que son travail vise à alerter les décideurs politiques sur les dangers potentiels de cette technologie, ses recherches soulèvent de nombreuses questions éthiques. Certains craignent que ce type de reconnaissance faciale ne soit qu’une version high-tech de la phrénologie, une pseudoscience du 18e et 19e siècle qui cherchait à établir des liens entre les traits du visage et les traits mentaux.
Dans une étude publiée en 2021, Kosinski a en effet réussi à concevoir un modèle de reconnaissance faciale capable de prédire avec 72% de précision les croyances politiques d’une personne, contre seulement 55% pour les humains. Bien que Kosinski affirme que ses travaux doivent être perçus comme un avertissement, certains estiment que la publication de telles recherches pourrait inspirer de nouveaux outils de discrimination. De plus, le fait que ces modèles ne soient pas 100% précis pourrait conduire à cibler à tort certaines personnes.
En 2017, Kosinski a co-publié un article sur un modèle de reconnaissance faciale capable de prédire l’orientation sexuelle avec 91% de précision. Cependant, cette recherche a été qualifiée de « dangereuse et erronée » par la Human Rights Campaign et GLAAD, car elle pourrait être utilisée pour discriminer les personnes LGBTQ+. Avec l’ajout de ce type de technologie aux guerres culturelles actuelles, comme les problèmes de mauvais genre des athlètes olympiques, cela pourrait être une recette pour un désastre.