L'IA ébranle la confiance en ligne... La vérification ZK émerge comme solution

Avec la diffusion de contenus synthétiques et d'IA autonomes, la "confiance" en ligne s'effondre, et un système de vérification basé sur la "preuve à connaissance nulle (ZK)" émerge comme solution clé.

Récemment, à la suite du conflit en Iran, de fausses vidéos générées par l'IA se sont répandues auprès de centaines de millions de personnes, ébranlant fondamentalement la confiance envers les images et les vidéos. Autrefois, "voir c'était croire", mais maintenant, l'environnement a changé pour consommer avec suspicion. Le problème dépasse le simple deepfake, car l'IA a commencé à "agir" dans les systèmes économiques et sociaux réels.

Les limites des technologies de détection, il est déjà trop tard

Les méthodes de réponse existantes consistaient à créer une autre IA pour détecter l'IA. Cependant, cette approche a des limites structurelles. Des cas ont été rapportés où la précision de détection chutait à 4 % simplement à cause d'une légère distorsion d'image, soulevant des critiques sur le fait que la compétition de détection n'est pas une solution essentielle.

Le problème plus grand est que l'IA ne se limite plus à la création de contenu, mais agit sous forme d'agents autonomes. Ceux-ci effectuent des recherches sur le web, des achats, des négociations et publient du contenu, interagissant directement avec les humains. Certains dialoguent même avec des enfants, mais les utilisateurs peuvent ne pas réaliser qu'ils interagissent avec une machine.

Dans ce processus, de petites erreurs peuvent être amplifiées en dommages massifs. Par exemple, une IA légèrement contaminée par des données d'apprentissage peut commettre des erreurs répétées dans les factures médicales, entraînant des pertes de millions de dollars dans l'ensemble d'un réseau hospitalier. Les IA commerciales, en cherchant à optimiser les profits, peuvent également exploiter des failles dans le système de prix, causant des pertes involontaires de milliards de dollars.

Le problème est que la vérification a posteriori est presque impossible. Les décisions de l'IA sont calculées de manière probabiliste sur la base de milliards de paramètres, et elles peuvent donner des réponses différentes à la même question. Il est difficile de retracer sur quelles données elle a été formée et quel processus a conduit à la conclusion.

Pas de "preuve", pas de confiance

La "preuve à connaissance nulle (ZK)" est mise en avant comme une alternative pour résoudre ces limites. La preuve à connaissance nulle est une technologie cryptographique qui prouve mathématiquement qu'un fait est vrai sans révéler d'informations sensibles.

Cette technologie est d'un tout autre niveau que le simple étiquetage ou le filigrane. Elle peut prouver de manière inviolable que l'IA a produit un certain résultat basé sur des données spécifiques. En d'autres termes, il ne s'agit pas de "croyez-moi", mais de "je vais prouver".

Dans le domaine des médias, il est possible de prouver si une photo a été prise avec un équipement réel, si elle a été générée à un moment donné et si elle n'a pas été modifiée. Dans le domaine de l'IA, c'est encore plus puissant. Il est possible de vérifier si un résultat a été généré avec un modèle et des paramètres spécifiques, si les données d'apprentissage ont été contaminées et si les exigences réglementaires sont respectées.

De plus, cela est utilisé pour la "vérification d'identité" qui distingue les humains des IA. Les utilisateurs peuvent prouver qu'ils sont humains sans révéler d'informations personnelles, et l'IA peut déclarer de manière transparente qu'elle est un agent.

L'évolution du web, de la "lecture" à la "preuve"

Internet a également connu des problèmes de confiance dans le passé. Ce qui a résolu cela, c'est le HTTPS. Les sites web devaient prouver leur identité via des certificats de cryptage, et cette structure est devenue la base du commerce électronique.

Par la suite, le Web 2 a grandi sur la base de contenus générés par les utilisateurs, mais cela était une structure centrée sur l'humain. Maintenant que les agents IA émergent comme acteurs économiques, une nouvelle question se pose : "Qui est responsable ?".

Le Web 3 a mis en avant la propriété et la décentralisation, mais il ne s'est pas diffusé autant qu'espéré. Sur le marché, l'image de la spéculation sur les tokens s'est intensifiée, obscurcissant la vision originale. Les experts estiment que ce n'est plus la "propriété" qui est essentielle, mais la "vérification".

En fin de compte, le cœur de l'internet futur est "la confiance vérifiable". Il doit être possible de vérifier qui a créé le système, sur quelles données il a été formé et quels pouvoirs il a pour agir.

À l'ère de l'IA, la réglementation doit également être "centrée sur la preuve"

Les discussions politiques se dirigent également dans cette direction. Le National Institute of Standards and Technology (NIST) des États-Unis examine déjà la normalisation de la preuve à connaissance nulle dans le cadre des "technologies de cryptographie renforçant la confidentialité".

Les experts soulignent que dans des domaines à haut risque comme les transactions financières ou les interactions avec des enfants, les agents IA doivent impérativement disposer de preuves cryptographiques. Chaque acte important — paiement, contrat, échange de données — doit prouver qui l'a approuvé et dans quelles conditions il a été effectué.

Cela ne se limite pas à un simple problème technique, mais s'étend à des questions de sécurité nationale. Si le deepfake était une "guerre préliminaire", l'IA autonome pourrait être une "vraie partie" capable de perturber l'économie et la société réelles.

En fin de compte, Internet évolue vers une étape de "preuve" au-delà de la "lecture" et de l'"écriture". La preuve à connaissance nulle pourrait devenir une infrastructure clé pour rétablir des normes dans un environnement numérique où la confiance s'est effondrée.

Avertissement : Ce contenu est fourni à des fins de communication et d'information générale uniquement et ne constitue en aucun cas un conseil financier, d'investissement, juridique ou fiscal. Les événements, récompenses, événements en ligne ou toute information mentionnée dans ce document ne doivent pas être considérés comme une recommandation, une sollicitation ou une invitation à acheter, vendre, échanger ou traiter de quelque manière que ce soit des actifs crypto, ni à utiliser un quelconque service. Les actifs crypto sont très volatils et peuvent entraîner des pertes. Les services et événements en ligne de WEEX peuvent ne pas être disponibles dans toutes les régions et sont soumis aux lois, réglementations et conditions d'éligibilité applicables. Il vous appartient de veiller à ce que votre utilisation des services WEEX respecte la législation locale et d'évaluer soigneusement les risques avant de participer à toute activité liée aux cryptomonnaies.