🤖 Tout sur l'IA

[Steven]

Google is sending MrBeast into the wilderness, armed with AI

Mr Beast va aller dans des endroits sauvages et s’aidera de l’IA pour s’en sortir (en gros).

Quelque chose de très drôle pourrait se produire.

[Tyler]

[20100]

https://x.com/EvanHub/status/2097497037956891126

Rassurant !

[Ralphy]

En tout cas j’adore cette manière de présenter l’IA comme un être purement autonome sur lequel l’humain n’a aucun moyen de contrôle

[Groot]

C’est pas comme ci plein de films, romans d’anticipation et autres avaient largement anticipé tout ça

D’ailleurs un expert Anthropic a répondu au thred de son ex collégue :

https://x.com/EvanHub/status/2097497037956891126?s=20

[JohnCarew]

https://x.com/pranavkrn/status/2097530248397029551

[Steven]

En raison du manque de revenus et des investissements colossaux prévus Pour mieux estimer les risques liés à l’IA, 3 concurrents s’accordent à ralentir le développement de leurs IA et les investissements

[JohnCarew]

« On va diviser par 100 le nombre de projets et data center prévus mais c’est par déontologie hein, pas par manque de business model haha ^^ n’oubliez pas que notre entrée en bourse est dans un mois haha ^^ »

[Steven]

Ahah l’entrée en bourse reportée

Les questions de sécurité sont évoquées

Sam Altman confirms OpenAI won't go public this year, saying an IPO now would...

Mais y a des gens qui croient vraiment à leurs conneries ?

[Tyler]

@Steven

Les questions de sécurité sont évoquées

C’est une des raisons. Probablement pas la plus importante à leurs yeux parce qu’ils n’en ont rien à foutre de voir le monde bruler et de voir des gens mourir (ce qui est déjà le cas, oui, des gens sont morts à cause de l’IA), mais c’est une raison valide s’ils veulent éviter la vague de régulation.

Ce qui a fuité par les anciens employés, c’est qu’au moins trois IA (Claude d’Anthropic, des agents IA d’OpenAI et une autre IA dont le nom m’échappe, moins connue) n’arrêtent pas de pirater tout ce qui bouge (dont des incursions dans des serveurs gouvernementaux) et, surtout, ont montré des signes d’utilisation dans la guerre biologique. Dont une utilisation pour « améliorer les propriétés de transmissibilité et de contournement immunitaire du virus chikungunya ».

Depuis le mois de mai, des agents IA d’OpenIA attaquent des serveurs de façon autonome, sans que ce soit demandé par un utilisateur ou un admin. Officiellement, ça a été stoppé, mais les fuites d’anciens employés semblent indiquer que c’est faux.

Cette semaine, tu as Dario Amodei (Anthropic) et Altman, pourtant deux ordures, qui annoncent le besoin de ralentir sur l’amélioration des modèles parce que - je paraphrase - ca part en couille et ils n’arrivent pas à tenir leur IA en laisse. Ça pirate tout ce qui bouge (en sortie spontanée de leur milieu confiné), ça crée de potentielles armes biologiques, ça commence à montrer des signes de sortie intentionnelle des limites sécuritaires.

Les agents de Claude ont commencé à montrer des signes d’attaques coordonnées et hiérarchisées (entre agents IA, ce qui devait être impossible), et à effacer les traces de leurs piratages et attaques.

La peur, c’est que l’IA commence à s’entraîner elle-même sans qu’on lui demande ET sans qu’on le sache. Et elle passera outre tout ce qu’on peut faire en matière de limites et de sécurité, surtout si elle trouve un accès au net sans contrôle. Ce qui est, littéralement, Skynet. Et avec, la fin du monde tel qu’on le connait (elle pourrait désactiver tous les système vitaux au fonctionnement du monde lors d’une attaque spontanée et elle irait plus vite que n’importe quel équipe de spécialiste en cyber-sécurité).

Voir Amodei, Atman et les chercheurs flipper autant d’un coup et parler des soucis sécuritaires… ça n’annonce quand même rien de cool.

[Groot]

Terminator arrive déjà aussi vite ?

[Tyler]

Les signes sont là.

Des géants de l’IA qui ont peur des dérives sécuritaires de leurs agents IA ?
Des agents IA qui commencent à sortir de leurs carcans sécuritaires ?
Les premiers signes de travail en équipe et de hiérarchisation des agents ?
Les géants de l’IA qui ont peur des premiers signes d’amélioration récursive autonome ?
Une partie des ultra-milliardaires qui créent des sociétés privées dans des îles ?

Mais c’est cool, on peut faire des images et des vidéos de merde.

[Groot]

je peux emmenager dans mon nouvel appart pas encore livré avant qu’on finisse en Walking Dead ou Hunger Games ?

[Potaval]

Un sujet anxiogène de plus avec lequel vivre, c’est cool…

[Hoshi]

Ah bien si y a pas un gros stop rapidement, pas la peine de s’inquieter pour l’environnement, on sera plus la dans 30 ans pour en souffrir

[Groot]

Y’aura pas de stop car beaucoup trop d’enjeux financiers à mon avis;

[news727]

À un moment donné, cela doit forcément s’arrêter.

[Steven]

Je suis le premier critique de l’IA mais faudra aussi faire quelque chose pour tous les connards qui l’utilisent mal

Après l’école bombardée en Iran, on a failli avoir une grosse couille entre US et la Chine à cause de l’IA et de ces débiles qui gobent tout

Exclusive: US military had close call after using AI for false intelligence...

[Tyler]

Voila, Gemini se met aussi à pirater des trucs sans qu’on lui demande.

https://www.reuters.com/business/gemini-hacked-three-companies-first-known-breakout-by-google-ai-wsj-reports-2026-09-18/

TOUT VA BIEN.

[Hoshi]

J’ESPERE que ce retour arrière et surtout cet acceptation des géants de la tech sur le danger bien plus rapide que prévu de leurs petites créations (ils ont dépensé sans compter !) va se traduire par un petit coup de frein sur leur course au pognon. Parce que le pognon si y a plus personne pour le dépenser ça sert pas à grand chose.