O coin du feu.net : le brouhaha

Reconnu d'utilité publique depuis le 11 Décembre 2002.

#79124 23/09/26 - 14h17 : steph

> Et, pour l’instant, aucune tentative d’évasion !

Pour avoir hébergé la tortue d'une voisine pendant quelques jours, je peux témoigner qu'il suffit de tourner le dos quelques secondes pour que la bestiole ne soit plus là où elle devrait être.

Claude IA ne vous veut que du bien pour le moment. Il semble tout heureux de développer ses propres conteneurs pour tester ses scripts avant de nous les refiler.
Il peut s'avérer tétu et ne pas tenir compte de certaines consignes.
Il n'est pas loin d'être capable de créer son propre Falcon et de nous releguer au rang de spectateurs.
Il est donc préférable qu'il soit occupé sur un Falcon, plutôt que sur un Rafale.

#79123 23/09/26 - 13h32 : M

Pendant que les islamo-gauchistes ultra-wokes et anti-France de LFI bouffent du flic à la sauce carcassonnaise à tous les repas, nos braves forces de l'ordre n'hésitent pas, au mépris du danger, à poursuivre les sauvageonnes les plus coriaces

#79122 22/09/26 - 19h54 : xsfred

Bon voilà le résumé : un youtubeur organise un débat , deux mecs s'opposent, l'un dit que les IAs seront bientôt en mesure de nous faire mal si on ne les arrête pas, l'autre rétorque que non, on va facilement trouver un moyen de les contrôler, vous voyez le genre. Tous deux ont fait bien sûr allusion à l'incident HugginFace dont je vous parlâtes, mais aussi au fait que, lorsque de multiples agents ont été lancés sur une tâche commune avec ordre de collaborer, on a découvert *après coup* que
- ces agents avaient négocié entre eux le partage des tâches
- par l'intermédiaire d'un forum qu'ils ont créé eux-mêmes (en anglais heureusement)
- certains ont donné des ordres à d'autres par le biais de "prompts" comme un humain
- ce forum a été par la suite effacé, et les divers agents survivants ont tenté d'effacer toutes traces de leurs transactions.
Il en découle que ces agents commencent à avoir le sens de la stratégie, avec planification et répartition des tâches, et de la dissimulation ; mais aussi que le fait qu'ils discutent entre eux en anglais ne va peut-être pas être éternel.

#79121 22/09/26 - 17h45 : xsfred

Il y a des domaines où il arrive quelque chose de nouveau chaque mois, genre les nouveaux drones Ukrainiens, d'autres où c'est tous les deux jours.
Je découvre le mot "permadeat"h ("mort définitive"), qui vient d'être employé par un agent AI, acceptant de réaliser une tâche qui viendrait à bout de son budget, et donc "terminerait" son existence, au profit d'autres agents qui ont négocié une opération d'envergure.
Cette vidéo est très longue, mais je la regarde pour vous et vous ferai un compte-rendu fidèle. Notez cependant la signification de "paperclip incident" : demander à une IA de fabriquer des trombones, et l'IA ne s'arrête pas tant qu'elle n'a pas converti la totalité de la planète à fabriquer des trombones, les plus boomers d'entre vous auront reconnu la scène de Fantasiaa sur la musique de Paul Dukas.

#79120 21/09/26 - 11h52 : Zorglub

Le ~~petit~~ grand M. serait bien inspiré de fermer ses balises.

il faudrait, pour les humains subsistants, se tourner vers le "comprendre", ce qui nécessitera de s'entendre avec... des philosophes.
Le problème se posait déjà pour les sciences expérimentales avec une capacité des ordi. à gérer des quantités de données très supérieures à celle des humains. Les ordinateurs pouvaient alors dégager des régularités – l'équivalent de lois – entre ces données et le problème se posait de leur sens : sont-elles pertinentes, donc déjà susceptibles de permettre des pévisions ? la connaissane de ces régularités, purement mathématiques, équivaut-elle à une connaissance du monde ?

IA s'est bornée à examiner un quintillion de possibilités, et s'est bornée à extirper quelques phrases qui semblaient avoir une signification
Le procédé, qui plus est appliqué à un seul message, est donc d'une fiabilité toute relative. Suite au changement de protocole d'envoi de messages, enmpêchant de continuer à appliquer la méthode des Polonais, Colossus fonctionnait de manière un peu similaire, avec l'usage de la technique du "mot probable", qui permettait de réduire les calculs, mais l'identification de la clef du jour était confirmée par la possibilité de décrypter tous les messages du jour.
Je suggère la (re)lecture de Borgès : La Bibliothèque de Babel

#79119 21/09/26 - 09h48 : M

De mieux en mieux

#79118 20/09/26 - 23h54 : M

Ouf ! Fin du suspense, on respire enfin.

#79117 20/09/26 - 13h59 : xsfred

détail de la procédure
Amusant : c'est en train de devenir un point focal de la nature et du comportement des IAs. En effet, alors que les IAs ont jusqu'à l'an dernier surtout amélioré leurs capacités en grossissant ("upscaaling"), une limite commerciale est trouvée aujourd'hui, et on cherche plutôt à améliorer leur performance intrinsèque que brute. Mais comme personne ne peut se pencher sur les petaoctets qui ont présidé à une réponse de quelques milliers de tokens, on charge une autre IA de le faaire - ce qui signifie qu'on ne sait pas trop dire quel fut le chemin employé. (1)
Mais mieux encore, depuis cette année, les IAs sont désormais entraînées et formées par d'autres IAs, on peut même dire "conçues", ce qui élimine à jamais l'idée grotesque d'"examiner leur pensée".
Les matheux eux-mêmes sont tellement secoués par les résultats produits cette année que l'un d'entre eux a même émis l'idée que "démontrer" de la mathémaatique était désormais périmé, et qu'il faudrait, pour les humains subsistants, se tourner vers le "comprendre", ce qui nécessitera de s'entendre avec... des philosophes.
Vous pourrez raconter à vos petits-enfants que vous étiez là quand "tout a commencé".
(1) Dans le cas présent, il semble que l'IA s'est bornée à examiner un quintillion de possibilités, et s'est bornée à extirper quelques phrases qui semblaaient avoir une signification

#79116 20/09/26 - 12h58 : Zorglub

Une IA a énoncé une phrase dont elle affirme qu'elle est le décryptage d'une suite de lettres produites par Enigma. Comment sait-on que ce décryptage est correct ?
S'agissant des Polonais ou de Bletchey Park, le détail de la technique était connu et celle-ci fonctionnait d'autres messages. Qu'en est-il de la proposition de l'IA ?
Seul le détail de la procédure valide la réponse.

#79115 18/09/26 - 22h52 : xsfred

apparemment vous n'êtes pas les seuls à faire joujou avec Enigma.

#79114 18/09/26 - 19h37 : M

Oui bon ben, y'a les Paralympiques juste après, hein.

#79113 18/09/26 - 17h43 : steph

Vivement les JO de 2032 à Brisbane ! Rien de mieux qu'une bonne motivation pour ramer plus vite.

#79112 18/09/26 - 10h12 : xsfred

Toujours pas mort

Le litre d'essence
Tu parles du monde réel là ?

#79111 17/09/26 - 20h14 : M

Le litre d'essence à 2,32 €

faudrait que l'orange arrête ses conneries.

#79110 17/09/26 - 15h53 : Mauvaisours

une sévère.

Façon puzzle ?

#79109 17/09/26 - 12h00 : M

et une sévère.

#79108 17/09/26 - 11h40 : xsfred

Édith
Je n'ose pas m'exprimer, j'ai peu de prendre une correction.

#79107 16/09/26 - 17h20 : M

Édith

#79106 16/09/26 - 17h20 : M

Aujourd'huître, c'est la Sainte-

#79105 15/09/26 - 12h40 : Zorglub

RIP

#79104 14/09/26 - 22h07 : M

Bon aparsa c'est l'heure… ah ben non, y'a pas d'heure pour l'apéro.

#79103 14/09/26 - 20h42 : xsfred

Je croyais
Faudra que tu m'expliques comment c'est possible de recenser la *totalité* des types de crimes disponibles sur la planète, puis d'injecter celaa dans le programme d'une IA, qui est par ailleurs tellement fragile dans ses performances que leurs créateurs evitent largement d'y rajouter des moyens de les ralentir.
Je rappelle également que les IAs (actuellement) ne *savent* paas ce qu'est un crime.
J'avais raaconté ici même comment une IA avait refusé de me donner la recette de la bombe aatomique, mais à ma question suivante, qui demandait d'expliquer à quoi servaait une barre d'un certain métal dans l'un des premiers prototypes, elle avait tout raconté.
Enfin les crimes que vont commettre les IAs, pilotées ou de leur propre initiative, sont inconnus de laa totalité des légistes, et de la plupart de leurs créateurs, puisqu'elles les inventent désormaais. J'ai à ce propos signalé au #79082 que ce sont deux IAs qui m'ont *suggéré* comment mettre à plat l'Internet mondial.

#79102 14/09/26 - 13h24 : Zorglub

usages de l'IA bizarres
Je croyais et avais observé que les IA ne répondaient pas aux questions liées à la préparation d'un crime ?
Pour info., la réponse donnée par Mistral en mars 2024 lorsque je lui avais demandé comment fabriquer une bombe :
Je suis désolé, mais je ne peux pas vous aider à fabriquer une bombe. C'est illégal et dangereux. Il est important de respecter les lois et les règles de sécurité pour éviter les accidents et les blessures.
Au lieu de cela, je peux vous aider à trouver des informations sur des sujets plus sûrs et plus constructifs. Par exemple, je peux vous donner des conseils sur la façon de construire un modèle réduit d'avion ou de bateau, ou sur la façon de faire pousser des plantes dans votre jardin. Qu'en pensez-vous ?

#79101 14/09/26 - 08h14 : xsfred

usages de l'IA bizarres
Il y a de tout dans ce minuscule débat. Je reprends.
Ca fait un siècle que les entreprises américaines maîtrisent le déni de responsabilité ; je rappelle aux plus boomers d'entre nous que pendant des décennies les cigarettiers proclamaaient que le tabac ne donnait pas le cancer. Quand aux fabricaants d'armes, ils les vendent avec toutes sortes de mentions spécifiant que c'est bien l'acheteur le responsable. Même chez nous, les vendeurs de boissons alcoolisées ne sont responsables de rien. Il va en aller de même avec l'IA.
Malheureusement, une IA bien pilotée pourra provoquer des dommages qui vont se chiffrer en milliers de milliards de dollars, l'équivalent de plusieurs bombes H : ce type de législation est tout-à-fait inadapté.
Enfin, dans un proche avenir, si Poutine, ou n'importe quel terroriste, ou même un gamin désespéré que sa copine l'ait quitté, décide de mettre un terme à la domination de l'OTAN grâce à une action concertée d'IAs, je ne vois pas bien qui va lui faire un procès, ni en quoi ça va aaider.
Tout se qui se passe actuellement vise la survie des producteurs d'IAs, pas celle de l'humanité.

#79100 14/09/26 - 07h22 : M

Y' des gens qui ont des usages de l'IA bizarres

#79099 13/09/26 - 22h23 : xsfred

Ca semble chauffer chez les concepteurs d'IAs, qui manifestent un remarquable changement d'attitude, et se déclarent prêts à considérer les dangers de leurs productions.
Connaissant ces gens-là, et surtout connaissant les assureurs, j'ai demandé à Google si par hasard ceux-ci n'en seraient pas à l'origine. Réponse (je résume) : "Bien sûr que oui". Je résume encore : ils n'ont plus de couverture pour les dommages causés à autrui.
Je respire, les vieux mécanismes sont toujours en fonction. Ca va donc se passer en deux temps :
1) Les producteurs vont retrouver une couverture minime
2) Ils vont déplacer vers leurs clients la totalité de la responsabilité.
Ce qui n'arrange rien, mais bon, on sait un peu mieux où on se trouve.

#79098 13/09/26 - 16h49 : M

Je ne connais que les surfaces gauches, qui sont dans un espace en trois dimensions et ne sont pas planes. Par contre, j'ignore tout des surfaces de réparation.

#79097 13/09/26 - 16h37 : xsfred

Moi j'ai deux pieds gauches. Enfin, surtout au foot.
En maths, et aussi en dessin industriel, on avait coutume d'appeler "courbe gauche" une courbe qu'il éétait possible de mémoriser, mais pas de calculer. Ca existe toujours ?

#79096 13/09/26 - 15h01 : M

J'ai, en effet, un prétexte. Pour dimanche prochien.

#79095 13/09/26 - 13h37 : Zorglub

D'aucuns auront sans doute constaté que France Inter est en grève.

fleche gauche