Ahora, una máquina poderosa tiene acceso a todo el conocimiento público humano en más de 100 idiomas

Al reflexionar sobre el evento de Microsoft de ayer sobre el nuevo Bing, un pensamiento sigue volviendo a mi mente. Ahora, una máquina poderosa tiene acceso a todo el conocimiento público humano en más de 100 idiomas. Y esta IA tendrá acceso a información nueva en tiempo real (o casi en tiempo real) a través de Bing Search. Las tres grandes barreras de ChatGPT (no poder indexar contenido que no sea texto, no tener datos en tiempo real y no poder determinar qué fuente es más confiable o autoritativa) casi desaparecieron con la integración de Bing (más sobre eso aquí).

Sarah Bird (Responsable de IA Responsable en Microsoft) habló sobre sus esfuerzos para prevenir el mal uso del sistema. El ejemplo dado en el video fue sobre la planificación de un ataque.

Una de las razones principales es que, dado el acceso al conocimiento mundial, la máquina puede generar respuestas mucho más sofisticadas que las versiones anteriores (es decir, ChatGPT, por ejemplo).

Habló sobre un nuevo sistema de pruebas que desarrollaron para mejorar el rendimiento de Bing al manejar conversaciones potencialmente dañinas.

Esto se logra utilizando un simulador de conversaciones para realizar miles de conversaciones diferentes con el modelo. Las conversaciones se analizan para identificar las brechas en el sistema y mejorarlo. Esto se hace usando pautas de lingüistas, iterando con expertos humanos y clasificando conversaciones automáticamente. Dado que este proceso puede repetirse millones de veces, ha llevado a importantes innovaciones y mejoras en las mitigaciones de IA responsable, y permite probar diferentes riesgos de IA responsable.

Las implicaciones de la integración de Bing y OpenAI parecen tener un alcance enorme, cuyos efectos aún no se sienten del todo. Tengo que admitir que esto es a la vez emocionante y un poco aterrador. Y dada la naturaleza del machine learning, estoy seguro de que el sistema se volverá cada vez más inteligente, muy rápido (no necesita dormir, descansar ni comer). El impacto social puede ser potencialmente enorme, especialmente en los países en desarrollo con recursos limitados. Habiendo crecido en Vietnam, pienso mucho en esto. ¿Cuántos empleos se perderán? ¿Cuántas personas necesitarán reciclarse profesionalmente? ¿Cuáles son los recursos para reconvertirlas? ¿Querrán aprender nuevas habilidades?

Por ejemplo, ¿qué pasaría si:

• Microsoft empieza a trabajar en un curso de formación online para enseñar a las personas a usar el nuevo Bing + OpenAI.
  • Por ejemplo, desde mi experiencia usando ChatGPT, Bearly (u otras aplicaciones basadas en GPT 3) durante un tiempo, todavía estoy aprendiendo a sacarle el máximo partido al sistema cada día.
  • La clave es saber proporcionar contexto específico a través de múltiples prompts. Necesitas darle al "asistente de IA" / Copilot todo el contexto posible para que pueda realizar las tareas mejor.
    • Ayer mismo aprendí a incluir "¿Me entiendes?" al final de mi prompt para que la máquina pueda repetir lo que entendió de mis instrucciones desde el inicio de la conversación.
    • Hace unas semanas aprendí que debo comenzar el chat diciéndole a la máquina a qué audiencia objetivo quiero que se dirija la respuesta. Por ejemplo, decirle que quiero que las respuestas estén dirigidas a expats en EE. UU.
• Luego usar la máquina para traducir este curso a tantos idiomas como sea posible.
• Incluir este curso (o cursos) como parte de la interfaz de Bing para que sea fácil para todos aprender.

Espero que las mentes brillantes que trabajan en esto tengan un buen plan para garantizar el acceso igualitario a todos los países, de modo que todos puedan ser parte del viaje y tener debates y discusiones saludables. Soy un estudiante en este tema y no pretendo tener las respuestas a estas grandes preguntas. Pero creo que es importante que todos empecemos a pensar en ellas ahora.

¿Cuáles son tus reflexiones al respecto? ¿Crees que la IA ampliará o reducirá la brecha entre los países desarrollados y los países en desarrollo? Me encantaría escuchar distintas perspectivas :)

Un abrazo,

Chandler