OpenAI, Anthropic et Google envisagent de créer un organisme professionnel dédié aux standards de sécurité de l’intelligence artificielle, selon des informations rapportées par The Information. Le projet pourrait notamment établir des méthodes communes pour tester et évaluer les modèles d’IA avancés avant leur déploiement.

Cette initiative intervient alors que les capacités des modèles progressent rapidement et que plusieurs dirigeants du secteur appellent à renforcer les précautions. OpenAI souhaite notamment encourager la création de standards définis par l’industrie et collaborer avec d’autres laboratoires spécialisés afin d’établir des règles communes.

L’organisme envisagé pourrait définir des références partagées pour mesurer les capacités des modèles, évaluer leurs risques et déterminer les situations dans lesquelles leur développement devrait être ralenti ou suspendu. OpenAI soutient également la mise en place de règles nationales obligatoires aux États-Unis.

Plusieurs incidents liés à des systèmes d’intelligence artificielle

Cette réflexion intervient après plusieurs incidents liés à des systèmes d’intelligence artificielle et alors que les entreprises renforcent leurs dispositifs de sécurité. OpenAI affirme notamment avoir ralenti certaines étapes du développement d’Astra afin de consolider ses protections.

Pour l’heure, la création de cet organisme n’est encore qu’à l’étude. S’il voit le jour, il pourrait toutefois contribuer à rapprocher les pratiques de sécurité des principaux acteurs de l’IA et à faire émerger des références communes pour l’évaluation des modèles les plus avancés.

L’article Tech : les géants de l’IA négocient pour harmoniser leurs pratiques est apparu en premier sur Managers.

Attendue cette année, le patron d’OpenAI, Sam Altman, a déclaré que son entreprise n’entrera pas en Bourse en 2026. La raison en est les préoccupations croissantes concernant la sécurité de l’IA. L’une des IPO les plus attendues de l’histoire est désormais programmée en 2027 dans le meilleur des cas.

Mais au-delà de la question financière, ce report confirme que les inquiétudes liées à l’IA sont sérieuses et qu’elles commencent à remodeler les plans d’affaires du secteur.

Cette déclaration est intervenue après celle du dirigeant d’Anthropic, Dario Amodei. Celui-ci a publié un texte exhortant les entreprises d’IA à ralentir le rythme d’amélioration de leurs modèles les plus avancés. Amodei a proposé un plan en trois étapes visant à modérer le rythme de développement sans sacrifier l’avantage commercial ou l’avance des États-Unis dans l’IA. Pourtant, son entreprise se prépare à s’introduire en Bourse, bien qu’elle n’ait pas officiellement divulgué quand elle prévoyait d’y faire ses débuts.

Anthropic s’est unilatéralement engagée dans la première étape du plan, accordant à des évaluateurs tiers un accès de niveau employé à l’entreprise pour vérifier les pratiques de sécurité et signaler les incidents. La deuxième étape encourage les principales entreprises d’IA des pays démocratiques à se coordonner et à établir des normes de sécurité communes, et la troisième appelle à une coordination entre les gouvernements démocratiques et les gouvernements autoritaires.

Sam Altman et Elon Musk ont rapidement soutenu la proposition dans des publications sur les réseaux sociaux, un accord inhabituel entre trois rivaux acharnés. Cet alignement soudain montre à quelle vitesse les préoccupations liées à l’IA sont passées de la marge au centre du secteur et commencent à entrer en collision avec ses énormes ambitions commerciales.

La pression monte parmi les différents régulateurs au monde. Partout, les législateurs réclament de nouvelles protections contre les cyberattaques menées sans contrôle humain direct.

L’article Les préoccupations de sécurité reportent l’IPO d’OpenAI est apparu en premier sur Managers.