A propos d'IA et de désinformation, les résultats d'une prépublication déposée sur ArXiv https://arxiv.org/abs/2510.07192 analysant l'empoisonnement de modèles de langage par l'injections de fausses informations dans les données d'entraînement, montrent que quelque soit la taille du dataset, une injection de 250 documents comportant de fausses informations suffisent à intoxiquer le modèle et biaiser ses résultats (via Next https://next.ink/203904/250-documents-suffisent-a-empoisonner-lentrainement-dune-ia/ ) #désinformation #IA
Discussion
Loading...
Discussion
A propos d'IA et de désinformation, les résultats d'une prépublication déposée sur ArXiv https://arxiv.org/abs/2510.07192 analysant l'empoisonnement de modèles de langage par l'injections de fausses informations dans les données d'entraînement, montrent que quelque soit la taille du dataset, une injection de 250 documents comportant de fausses informations suffisent à intoxiquer le modèle et biaiser ses résultats (via Next https://next.ink/203904/250-documents-suffisent-a-empoisonner-lentrainement-dune-ia/ ) #désinformation #IA
On voit ici que la transparence sur les méthodes et sources de collecte ainsi l'accès aux données d'entraînement et leur traçabilité limitent la surface d'attaque dans la conception ou l'affinage de LLM : de l'importance d'appliquer les logiques FAIR aux données d'entraînement. #FAIR #désinformation #IA
Open Science
We are a network of scientists, developers and organizations building the next generation of digital spaces for open science.
Manual federation enabled