Sam Altman, pdg d’OpenAI, la société conceptrice de ChatGPT soutenue par Microsoft, a appelé Washington à réguler le déploiement des grands modèles d’IA générative et met en garde contre l’absence de garde-fous dans le secteur.

Dans une audition organisée par le Sénat américain pour évoquer la gouvernance de l’IA générative, Sam Altman a expliqué que la réglementation était un élément critique pour limiter les risques liés à des modèles de plus en plus puissants. Le patron d’OpenAI a notamment été interrogé sur les menaces liées à la désinformation mais aussi à la violation des règles protégeant les données relatives à la vie privée associées aux méthodes d’apprentissage d’OpenAI.

Le sénateur démocrate Richard Blumenthal a déclaré que la perspective d’une IA entraînée de manière inappropriée faisait « plus qu’un peu peur » et demandé que les nouvelles technologies puissent être « tenues pour responsables ».

Richard Blumenthal a pointé la capacité de ChatGPT à imiter et simuler des interactions humaines authentiques, après avoir ouvert son allocution par un discours artificiellement généré dans sa propre voix par le modèle.

Sam Altman a suggéré en réponse que la formation d’une agence gouvernementale destinée à réguler l’apprentissage et le déploiement de l’IA serait utile pour son développement, affirmant en particulier le besoin combiné d’imposer aux développeurs l’obtention de licences ou des procédures d’enregistrement.

Le patron d’OpenIA a également proposé de priver de licences les développeurs qui lancent des outils d’IA  qui dépassent certains « seuils » ou « capacités », par exemple des modèles capables de s’auto-répliquer pour échapper au contrôle ou de générer du contenu néfaste.

Sam Altman a demandé en outre des règles officielles pour contrôler la façon dont les modèles d’IA récoltent des données sur internet pour répondre aux requêtes.

« Les utilisateurs devraient être capables de refuser que leurs données soient utilisables par des sociétés comme la nôtre, ou d’autres entreprises de médias sociaux », a-t-il ajouté.