Google, Microsoft, OpenAI et Anthropic (qui a créé Claude, un chatbot concurrent de ChatGPT) ont annoncé le 26 juillet créer le Frontier Model Forum.
La structure définit les frontier models, ou « modèles d’avant-garde », comme des « modèles d’apprentissage machine de grande échelle dont les capacités dépassent celle des modèles existants les plus avancés, et qui peuvent réaliser une grande variété de tâches ». Le terme était déjà apparu dans une précédente publication d’OpenAI, qui s’inquiétait alors de leur capacité à « poser des risques graves pour la sécurité publique ».
Le forum doit permettre à leurs constructeurs de réfléchir ensemble aux manières de « promouvoir le développement responsable et sécurisé » de ces technologies. En pratique, il s’agit aussi bien de « minimiser les risques et faciliter les évaluations indépendantes et standardisées des capacités et de la sécurité » des modèles que d’ « identifier les bonnes pratiques nécessaires à un développement responsable », « collaborer avec les régulateurs, les universitaires, la société et les entreprises » sur les notions de confiance et de sécurité et « œuvrer au développement d’application qui aideront à répondre aux grands enjeux de société » que représente, par exemple, la lutte contre le dérèglement climatique.
La création du Frontier Model Forum fait aussi suite à la promesse formulée par plusieurs acteurs de l’IA auprès de la Maison-Blanche de s’autoréguler. La semaine passée, Microsoft, Google, Anthropic, mais aussi Amazon et Meta ont notamment promis de marquer les contenus générés par IA, pour aider à identifier les fausses photos et vidéos.
En 2016, Google et Microsoft avaient déjà fondé The Partnership on AI, une structure encore active à laquelle appartient aussi Apple, contrairement au Frontier Model Forum.
La plupart de ces acteurs sont connus pour déployer d’importants moyens pour tenter d’influencer les régulations à leur encontre.
