L’article Edito. L’IApocalypse, mythe ou réalité ? est apparu en premier sur lecourrierdelatlas.
Des chercheurs de la start-up de cybersécurité Hacktron AI sont parvenus à compromettre le compte ChatGPT d’un employé d’OpenAI en utilisant Claude, le modèle d’intelligence artificielle développé par Anthropic. Ils ont ensuite réussi à accéder à l’environnement GitHub interne d’OpenAI et à y créer une demande de modification de code afin de démontrer la vulnérabilité.
L’opération reposait sur une chaîne de failles, notamment au niveau du système de traitement des images du logiciel Discourse, utilisé pour héberger le forum communautaire d’OpenAI. Les chercheurs se sont appuyés sur Claude pour les aider à exploiter cette vulnérabilité et à progresser jusqu’aux environnements internes de l’entreprise.
Cette opération ne relevait pas d’une attaque criminelle. Hacktron AI indique avoir mené ses recherches dans le cadre du programme de récompenses d’OpenAI, avant de transmettre les vulnérabilités identifiées à l’entreprise.
OpenAI a ensuite corrigé les failles concernées et versé une récompense de 6 500 dollars aux chercheurs pour leur découverte.
Cette découverte intervient alors qu’Anthropic a récemment publié un rapport consacré à plusieurs opérations malveillantes dans lesquelles Claude aurait été utilisé. L’entreprise affirme avoir détecté et interrompu ces activités. Ces affaires illustrent les nouveaux enjeux de cybersécurité liés à des modèles d’intelligence artificielle capables d’assister des opérations techniques complexes.
L’article Cybersécurité : Claude plus performant que ChatGPT ? est apparu en premier sur Managers.
OpenAI, Anthropic et Google envisagent de créer un organisme professionnel dédié aux standards de sécurité de l’intelligence artificielle, selon des informations rapportées par The Information. Le projet pourrait notamment établir des méthodes communes pour tester et évaluer les modèles d’IA avancés avant leur déploiement.
Cette initiative intervient alors que les capacités des modèles progressent rapidement et que plusieurs dirigeants du secteur appellent à renforcer les précautions. OpenAI souhaite notamment encourager la création de standards définis par l’industrie et collaborer avec d’autres laboratoires spécialisés afin d’établir des règles communes.
L’organisme envisagé pourrait définir des références partagées pour mesurer les capacités des modèles, évaluer leurs risques et déterminer les situations dans lesquelles leur développement devrait être ralenti ou suspendu. OpenAI soutient également la mise en place de règles nationales obligatoires aux États-Unis.
Cette réflexion intervient après plusieurs incidents liés à des systèmes d’intelligence artificielle et alors que les entreprises renforcent leurs dispositifs de sécurité. OpenAI affirme notamment avoir ralenti certaines étapes du développement d’Astra afin de consolider ses protections.
Pour l’heure, la création de cet organisme n’est encore qu’à l’étude. S’il voit le jour, il pourrait toutefois contribuer à rapprocher les pratiques de sécurité des principaux acteurs de l’IA et à faire émerger des références communes pour l’évaluation des modèles les plus avancés.
L’article Tech : les géants de l’IA négocient pour harmoniser leurs pratiques est apparu en premier sur Managers.
Attendue cette année, le patron d’OpenAI, Sam Altman, a déclaré que son entreprise n’entrera pas en Bourse en 2026. La raison en est les préoccupations croissantes concernant la sécurité de l’IA. L’une des IPO les plus attendues de l’histoire est désormais programmée en 2027 dans le meilleur des cas.
Mais au-delà de la question financière, ce report confirme que les inquiétudes liées à l’IA sont sérieuses et qu’elles commencent à remodeler les plans d’affaires du secteur.
Cette déclaration est intervenue après celle du dirigeant d’Anthropic, Dario Amodei. Celui-ci a publié un texte exhortant les entreprises d’IA à ralentir le rythme d’amélioration de leurs modèles les plus avancés. Amodei a proposé un plan en trois étapes visant à modérer le rythme de développement sans sacrifier l’avantage commercial ou l’avance des États-Unis dans l’IA. Pourtant, son entreprise se prépare à s’introduire en Bourse, bien qu’elle n’ait pas officiellement divulgué quand elle prévoyait d’y faire ses débuts.
Anthropic s’est unilatéralement engagée dans la première étape du plan, accordant à des évaluateurs tiers un accès de niveau employé à l’entreprise pour vérifier les pratiques de sécurité et signaler les incidents. La deuxième étape encourage les principales entreprises d’IA des pays démocratiques à se coordonner et à établir des normes de sécurité communes, et la troisième appelle à une coordination entre les gouvernements démocratiques et les gouvernements autoritaires.
Sam Altman et Elon Musk ont rapidement soutenu la proposition dans des publications sur les réseaux sociaux, un accord inhabituel entre trois rivaux acharnés. Cet alignement soudain montre à quelle vitesse les préoccupations liées à l’IA sont passées de la marge au centre du secteur et commencent à entrer en collision avec ses énormes ambitions commerciales.
La pression monte parmi les différents régulateurs au monde. Partout, les législateurs réclament de nouvelles protections contre les cyberattaques menées sans contrôle humain direct.
L’article Les préoccupations de sécurité reportent l’IPO d’OpenAI est apparu en premier sur Managers.
Anmelden