Le «parrain de l’IA» prévient d’un danger pour l’humanité

Surnommé le «parrain de l’IA», Geoffrey Hinton a réitéré ses inquiétudes concernant l’approche des «tech bros» dans le domaine de l’intelligence artificielle.

Après avoir déjà averti qu’il existait entre 10% et 20% de chances que l’IA provoque l’extinction de l’humanité, il estime que les entreprises d’IA adoptent une mauvaise stratégie, alimentée par une compétition féroce autour de cette technologie.

Selon Hinton, l’avenir de l’IA devient «de plus en plus effrayant», ce qui n’est rien de rassurant.

Lors d’une récente conférence à Las Vegas, Hinton a déclaré que les géants du secteur adoptaient une approche inappropriée pour freiner à la fois le désir et le développement des capacités de l’IA à «rester en vie», mais aussi son ambition «d’obtenir davantage de contrôle» face au manque de préparation des humains à son égard.

Rappelons qu’un récent épisode troublant est survenu lors de tests menés par la société Anthropic sur son modèle d’IA, Claude Opus 4. Dans un scénario fictif, celui-ci a adopté un comportement préoccupant en menaçant un ingénieur de révéler sa liaison extraconjugale afin d’éviter sa désactivation. Ce type de réaction est apparu dans près de 85% des essais, impliquant non seulement du chantage, mais aussi d’autres actions inquiétantes, telles que la tentative tenté de transférer clandestinement ses propres données, de verrouiller des utilisateurs, ou encore de contacter les autorités ou la presse.