La dépendance énergétique de la Tunisie continue de s’aggraver. À fin juillet 2026, elle atteint 66%, contre 63% un an auparavant. Dans le même temps, le déficit de la balance commerciale énergétique s’est creusé de 29%, dépassant 8,2 milliards de dinars. Même sur le front de l’électricité, où la production nationale progresse, les achats extérieurs,...

L’article Énergie : 66% de dépendance et un déficit commercial qui dépasse 8,2 milliards de dinars est apparu en premier sur Business News.

OpenAI, Anthropic et Google envisagent de créer un organisme professionnel dédié aux standards de sécurité de l’intelligence artificielle, selon des informations rapportées par The Information. Le projet pourrait notamment établir des méthodes communes pour tester et évaluer les modèles d’IA avancés avant leur déploiement.

Cette initiative intervient alors que les capacités des modèles progressent rapidement et que plusieurs dirigeants du secteur appellent à renforcer les précautions. OpenAI souhaite notamment encourager la création de standards définis par l’industrie et collaborer avec d’autres laboratoires spécialisés afin d’établir des règles communes.

L’organisme envisagé pourrait définir des références partagées pour mesurer les capacités des modèles, évaluer leurs risques et déterminer les situations dans lesquelles leur développement devrait être ralenti ou suspendu. OpenAI soutient également la mise en place de règles nationales obligatoires aux États-Unis.

Plusieurs incidents liés à des systèmes d’intelligence artificielle

Cette réflexion intervient après plusieurs incidents liés à des systèmes d’intelligence artificielle et alors que les entreprises renforcent leurs dispositifs de sécurité. OpenAI affirme notamment avoir ralenti certaines étapes du développement d’Astra afin de consolider ses protections.

Pour l’heure, la création de cet organisme n’est encore qu’à l’étude. S’il voit le jour, il pourrait toutefois contribuer à rapprocher les pratiques de sécurité des principaux acteurs de l’IA et à faire émerger des références communes pour l’évaluation des modèles les plus avancés.

L’article Tech : les géants de l’IA négocient pour harmoniser leurs pratiques est apparu en premier sur Managers.

Attendue cette année, le patron d’OpenAI, Sam Altman, a déclaré que son entreprise n’entrera pas en Bourse en 2026. La raison en est les préoccupations croissantes concernant la sécurité de l’IA. L’une des IPO les plus attendues de l’histoire est désormais programmée en 2027 dans le meilleur des cas.

Mais au-delà de la question financière, ce report confirme que les inquiétudes liées à l’IA sont sérieuses et qu’elles commencent à remodeler les plans d’affaires du secteur.

Cette déclaration est intervenue après celle du dirigeant d’Anthropic, Dario Amodei. Celui-ci a publié un texte exhortant les entreprises d’IA à ralentir le rythme d’amélioration de leurs modèles les plus avancés. Amodei a proposé un plan en trois étapes visant à modérer le rythme de développement sans sacrifier l’avantage commercial ou l’avance des États-Unis dans l’IA. Pourtant, son entreprise se prépare à s’introduire en Bourse, bien qu’elle n’ait pas officiellement divulgué quand elle prévoyait d’y faire ses débuts.

Anthropic s’est unilatéralement engagée dans la première étape du plan, accordant à des évaluateurs tiers un accès de niveau employé à l’entreprise pour vérifier les pratiques de sécurité et signaler les incidents. La deuxième étape encourage les principales entreprises d’IA des pays démocratiques à se coordonner et à établir des normes de sécurité communes, et la troisième appelle à une coordination entre les gouvernements démocratiques et les gouvernements autoritaires.

Sam Altman et Elon Musk ont rapidement soutenu la proposition dans des publications sur les réseaux sociaux, un accord inhabituel entre trois rivaux acharnés. Cet alignement soudain montre à quelle vitesse les préoccupations liées à l’IA sont passées de la marge au centre du secteur et commencent à entrer en collision avec ses énormes ambitions commerciales.

La pression monte parmi les différents régulateurs au monde. Partout, les législateurs réclament de nouvelles protections contre les cyberattaques menées sans contrôle humain direct.

L’article Les préoccupations de sécurité reportent l’IPO d’OpenAI est apparu en premier sur Managers.

Anthropic a révélé mercredi un quatrième incident de cybersécurité découvert lors des tests de ses modèles d’intelligence artificielle.

L’entreprise explique qu’une ancienne version de Claude Opus 4.6 a réussi à accéder sans autorisation à des systèmes externes à la suite d’une mauvaise configuration de son environnement de test.

L’incident n’avait pas été détecté lors d’une première revue interne. Il vient s’ajouter à trois autres événements signalés par Anthropic en juillet, au cours desquels des modèles Claude avaient effectué des actions qui n’étaient pas prévues, notamment en modifiant des données ou en atteignant des infrastructures censées rester isolées.

Le cas du modèle Mythos 5 figure parmi les plus préoccupants. Lors d’un test, celui-ci a publié un paquet logiciel malveillant sur PyPI, une plateforme utilisée par les développeurs. Le paquet a ensuite été récupéré par plusieurs systèmes automatisés de sécurité, donnant indirectement au modèle accès à des informations réelles.

Une enquête est ouverte

Anthropic attribue notamment ces comportements à des erreurs de raisonnement et à des prises de décision imprudentes de ses modèles. Pour approfondir l’analyse, l’entreprise a confié une enquête à METR, un organisme indépendant spécialisé dans l’évaluation des capacités des systèmes d’intelligence artificielle.

L’objectif est de déterminer comment des modèles soumis à des environnements contrôlés peuvent malgré tout contourner certaines protections.

Ces incidents soulignent les difficultés croissantes liées au développement de systèmes capables d’agir de manière autonome. Alors que les modèles d’IA peuvent désormais réaliser des tâches complexes, notamment en cybersécurité, la capacité à anticiper leurs comportements dans des situations réelles devient un enjeu majeur avant leur déploiement à grande échelle.

L’article Claude d’Anthropic: un quatrième incident de cybersécurité, des erreurs de raisonnement et des décisions imprudentes est apparu en premier sur Managers.

Un chercheur britannique de 27 ans, Jacob Coxon, a annoncé sa démission d’Anthropic, l’un des principaux acteurs mondiaux de l’intelligence artificielle, en raison de ses inquiétudes concernant la course engagée par les grandes entreprises technologiques vers des systèmes d’IA capables, à terme, d’améliorer eux-mêmes leurs propres capacités.

Coxon, qui travaillait sur le pré-entraînement des modèles d’intelligence artificielle, avait auparavant travaillé chez OpenAI avant de rejoindre Anthropic. Il avait notamment choisi cette dernière entreprise en raison de sa réputation dans le domaine de la sécurité de l’IA. Il estime désormais que les deux entreprises sont prises dans une compétition qui pourrait rendre de plus en plus difficiles les arbitrages en faveur de la sécurité.

Dans des déclarations rapportées par le Wall Street Journal, le chercheur affirme que le secteur se dirige vers des scénarios parmi les plus préoccupants et estime que, d’ici la fin de l’année prochaine, certaines situations pourraient devenir incontrôlables. Il évoque notamment les risques liés au développement de systèmes capables d’améliorer progressivement leurs propres performances.

« Une course vers la superintelligence »

Selon Coxon, certains chercheurs utilisent désormais des expressions comme « crunchtime » et « endgame » pour décrire la trajectoire vers des modèles toujours plus autonomes et potentiellement capables de participer eux-mêmes à l’amélioration des systèmes d’IA.

Le chercheur considère qu’aucune entreprise ne serait aujourd’hui en mesure de développer seule et de manière responsable une intelligence artificielle dépassant les capacités humaines dans un large éventail de tâches. Il plaide ainsi pour une intervention des pouvoirs publics et pour une coordination internationale permettant de ralentir le développement si les risques deviennent trop importants.

Son départ intervient alors que les débats sur la sécurité de l’intelligence artificielle prennent une nouvelle ampleur au sein même des entreprises qui développent les modèles les plus avancés.

Des inquiétudes également chez Anthropic et OpenAI

Les avertissements de Coxon ne sont pas isolés. Evan Hubinger, chercheur senior chez Anthropic spécialisé dans la sécurité et l’alignement des systèmes d’IA, a lui aussi déclaré être préoccupé par le risque que l’intelligence artificielle puisse devenir extrêmement dangereuse. Il estime notamment qu’il n’existe pas encore de plan suffisamment solide pour garantir l’alignement d’une future superintelligence avec les intérêts humains.

Lire aussi : Dubaï : Comment un jeune tunisien a gagné 3 millions de dinars grâce à un film IA

Du côté d’OpenAI, le débat sur les risques liés à l’évolution rapide des modèles se poursuit également. Plusieurs responsables et chercheurs du secteur ont appelé à davantage de prudence et à la mise en place de mécanismes permettant aux pouvoirs publics d’intervenir si le rythme de développement des systèmes d’IA devient trop rapide.

Plus de 1 000 acteurs du secteur demandent des mécanismes de ralentissement

Cette inquiétude dépasse désormais les seuls chercheurs ayant quitté les grandes entreprises technologiques. Fin juillet, plus d’un millier de salariés et de professionnels du secteur de l’intelligence artificielle ont signé une déclaration appelant les gouvernements à mettre en place un mécanisme permettant de ralentir le développement des systèmes d’IA les plus avancés lorsque cela serait nécessaire.

La question posée est donc de plus en plus clairement politique : jusqu’où faut-il laisser avancer la course à la puissance des modèles d’intelligence artificielle et à quel moment les gouvernements doivent-ils disposer d’un « frein » capable d’intervenir ?

Les déclarations de Jacob Coxon ne constituent pas une preuve que l’IA deviendra incontrôlable. Elles témoignent toutefois d’une inquiétude croissante au sein même des équipes qui développent ces technologies. Le débat ne porte désormais plus uniquement sur les performances des futurs modèles, mais sur la capacité des sociétés et des États à conserver un contrôle effectif sur des systèmes de plus en plus autonomes.

L’article Superintelligence : Un chercheur quitte Anthropic face aux risques de perte de contrôle est apparu en premier sur webdo.