Désormais, une machine puissante a accès à tout le savoir public humain dans plus de 100 langues

En réfléchissant à l'événement Microsoft d'hier concernant le nouveau Bing, une pensée ne cesse de me revenir. Désormais, une machine puissante a accès à tout le savoir public humain dans plus de 100 langues. Et cette IA aura accès à des informations nouvelles en temps réel (ou quasi temps réel) via Bing Search. Les trois grands obstacles avec ChatGPT (incapacité à indexer le contenu non textuel, pas de données en temps réel, et incapacité à distinguer les sources fiables des autres) ont presque disparu avec l'intégration Bing (plus d'informations à ce sujet ici).

Sarah Bird (Responsable de l'IA Responsable chez Microsoft) a discuté de leurs efforts pour prévenir l'abus du système. L'exemple donné dans la vidéo concernait la planification d'une attaque.

L'une des raisons principales est que, étant donné l'accès aux connaissances mondiales, la machine peut générer des réponses beaucoup plus sophistiquées que les versions antérieures (c'est-à-dire ChatGPT, par exemple).

Elle a parlé d'un nouveau système de test qu'ils avaient développé pour améliorer les performances de Bing dans la gestion des conversations potentiellement nuisibles.

Cela est réalisé en utilisant un simulateur de conversation pour mener des milliers de conversations différentes avec le modèle. Les conversations sont analysées pour identifier les lacunes du système et l'améliorer. Cela se fait en utilisant des lignes directrices de linguistes, en itérant avec des experts humains, et en classifiant automatiquement les conversations. Puisque ce processus peut être répété des millions de fois, cela a conduit à des innovations significatives et des améliorations dans les mesures d'atténuation de l'IA responsable, et permet de tester différents risques liés à l'IA responsable.

Les implications de l'intégration Bing-OpenAI semblent profondes et pas encore pleinement ressenties. Je dois admettre que c'est à la fois excitant et un peu effrayant. Et compte tenu de la nature du machine learning, je suis sûr que le système deviendra de plus en plus intelligent, très vite, très rapidement (il n'a pas besoin de dormir, de se reposer ou de manger). L'impact sociétal peut être potentiellement énorme, surtout pour les pays en développement ayant des ressources limitées. Ayant grandi au Vietnam, je réfléchis beaucoup à cela. Combien d'emplois seront perdus ? Combien de personnes devront être reconverties ? Quelles sont les ressources pour les reconvertir ? Veulent-elles apprendre de nouvelles compétences ?

Par exemple :

• Microsoft pourrait commencer à travailler sur une formation en ligne pour enseigner aux gens comment utiliser le nouveau Bing + OpenAI.
  • Par exemple, d'après mon expérience d'utilisation de ChatGPT, Bearly (ou d'autres applications basées sur GPT-3) pendant un certain temps, j'apprends encore comment tirer le meilleur parti du système au quotidien.
  • Comment fournir un contexte spécifique via plusieurs prompts est la clé. Tu dois donner à l'« assistant IA »/Copilot autant de contexte que possible pour effectuer les tâches de manière optimale.
    • J'ai appris hier à inclure « Tu me comprends ? » à la fin de mon prompt afin que la machine puisse répéter ce qu'elle comprend de mes instructions depuis le début de la conversation.
    • J'ai appris il y a quelques semaines que je devrais commencer le chat en indiquant à la machine le public cible à qui je veux que la réponse s'adresse. Par exemple, dire à la machine que je veux que les réponses ciblent les expatriés aux États-Unis.
• Puis utiliser la machine pour traduire ce cours dans autant de langues que possible.
• Inclure ce cours (ces cours) dans l'interface Bing pour faciliter l'apprentissage pour tous.

J'espère que les esprits brillants qui travaillent sur cela ont un bon plan pour assurer un accès égal à tous les pays afin que chacun puisse faire partie du voyage et avoir des discussions et des débats sains. Je suis un étudiant dans ce domaine et je ne prétends pas avoir les réponses à ces grandes questions. Mais je pense qu'il est important que nous commencions tous à y réfléchir maintenant.

Qu'en penses-tu ? L'IA va-t-elle élargir ou réduire l'écart entre les pays développés et les pays en développement ? J'aimerais entendre différentes perspectives sur ce sujet :)

Cordialement,

Chandler