Agora, uma máquina poderosa tem acesso a todo o conhecimento público humano em mais de 100 idiomas

Enquanto refletia sobre o evento da Microsoft de ontem sobre o novo Bing, um pensamento não para de surgir. Agora, uma máquina poderosa tem acesso a todo o conhecimento público humano em mais de 100 idiomas. E essa IA vai ter acesso a informações novas em tempo real (ou quase em tempo real) via Bing Search. As três grandes barreiras do ChatGPT (não conseguir indexar conteúdo além de texto, não ter dados em tempo real e não conseguir identificar qual fonte é mais confiável ou autoritativa) foram quase eliminadas com a integração do Bing (mais sobre isso aqui).

Sarah Bird (Responsável por IA Responsável na Microsoft) discutiu os esforços deles para prevenir o uso indevido do sistema. O exemplo dado no vídeo foi sobre planejar um ataque.

Um dos principais motivos é que, dado o acesso ao conhecimento mundial, a máquina pode gerar respostas muito mais sofisticadas do que versões anteriores (como o ChatGPT, por exemplo).

Ela falou sobre um novo sistema de testes que desenvolveram para melhorar o desempenho do Bing no manejo de conversas potencialmente prejudiciais.

Isso é feito usando um simulador de conversas para conduzir milhares de conversas diferentes com o modelo. As conversas são analisadas para identificar as lacunas no sistema e melhorá-lo. Isso é feito com diretrizes de linguistas, iteração com especialistas humanos e classificação automática de conversas. Como esse processo pode ser repetido milhões de vezes, ele levou a inovações e melhorias significativas nas mitigações de IA responsável e permite testar diferentes riscos de IA responsável.

As implicações da integração Bing e OpenAI parecem ser de grande alcance e ainda não foram sentidas. Tenho que admitir que isso é ao mesmo tempo empolgante e um pouco assustador. E dada a natureza do machine learning, tenho certeza de que o sistema vai ficar cada vez mais inteligente, muito rápido (ele não precisa dormir, descansar ou comer). O impacto social pode ser potencialmente enorme, especialmente para países em desenvolvimento com recursos limitados. Tendo crescido no Vietnã, penso muito sobre isso. Quantos empregos serão perdidos? Quantas pessoas precisarão ser retreinadas? Quais são os recursos para retreiná-las? Elas querem aprender novas habilidades?

Por exemplo, que tal:

• A Microsoft começar a trabalhar num curso de treinamento online para ensinar as pessoas a usar o novo Bing + OpenAI.
  • Por exemplo, pela minha experiência de usar o ChatGPT, o Bearly (ou outros aplicativos baseados no GPT 3) por um tempo, ainda estou aprendendo como aproveitar ao máximo o sistema no dia a dia.
  • Como fornecer contexto específico por meio de múltiplos prompts é a chave. Você precisa dar ao "assistente de IA" / Copilot o máximo de contexto possível para que ele execute as tarefas melhor.
    • Aprendi ontem a incluir "Você me entendeu?" no final do meu prompt para que a máquina possa repetir o que entendeu sobre a minha instrução desde o início da conversa.
    • Aprendi algumas semanas atrás que devo começar o chat dizendo à máquina qual é o público-alvo para o qual quero a resposta. Por exemplo, dizer que quero respostas voltadas para expats nos EUA.
• Depois usar a máquina para traduzir esse curso para o maior número de idiomas possível.
• Incluir esse curso como parte da interface do Bing para facilitar o aprendizado de todo mundo.

Espero que as mentes brilhantes que trabalham nisso tenham um bom plano para garantir acesso igualitário a todos os países, para que todos possam fazer parte dessa jornada e ter discussões e debates saudáveis. Sou um estudante nesse assunto e não finjo ter as respostas para essas grandes questões. Mas acho importante que todos nós comecemos a pensar sobre elas agora.

Quais são os seus pensamentos sobre isso? Você acha que a IA vai ampliar ou reduzir a distância entre países desenvolvidos e em desenvolvimento? Adoraria ouvir perspectivas diferentes :)

Abraços,

Chandler