이제 강력한 기계가 100개 이상의 언어에 걸쳐 인류의 모든 공개 지식에 접근할 수 있게 되었습니다

어제 새로운 Bing에 대한 Microsoft 행사를 되돌아보면서 한 가지 생각이 계속 떠오릅니다. 이제 강력한 기계가 100개 이상의 언어에 걸쳐 인류의 모든 공개 지식에 접근할 수 있게 되었습니다. 그리고 이 AI는 Bing 검색을 통해 실시간(또는 거의 실시간) 새로운 정보에 접근할 수 있습니다. ChatGPT의 세 가지 큰 장벽(텍스트 외 콘텐츠 인덱싱 불가, 실시간 데이터 없음, 어떤 출처가 더 신뢰할 수 있고 권위 있는지 판단할 방법 없음)은 Bing 통합으로 거의 사라졌습니다(여기에서 더 자세히).

Sarah Bird(Microsoft 책임 AI 리드)가 시스템 오용을 방지하기 위한 노력을 논의했습니다. 비디오에서 제시된 예시는 공격 계획에 관한 것이었습니다.

주요 이유 중 하나는 전 세계 지식에 접근할 수 있게 되면서, 기계가 이전 버전(예: ChatGPT)보다 훨씬 더 정교한 답변을 생성할 수 있다는 것입니다.

그녀는 잠재적으로 해로운 대화를 처리하는 Bing의 성능을 개선하기 위해 개발한 새로운 테스트 시스템에 대해 이야기했습니다.

이것은 대화 시뮬레이터를 사용하여 모델과 수천 가지 다른 대화를 수행함으로써 이루어집니다. 대화를 분석하여 시스템의 격차를 식별하고 개선합니다. 이것은 언어학자들의 가이드라인을 활용하고, 인간 전문가와 반복하며, 대화를 자동으로 분류하여 수행됩니다. 이 프로세스는 수백만 번 반복될 수 있으므로, 책임 있는 AI 완화에서 상당한 혁신과 개선을 이끌어냈으며 다양한 책임 있는 AI 리스크의 테스트를 가능하게 합니다.

Bing과 OpenAI 통합의 함의는 광범위하며 아직 체감되지 않았습니다. 솔직히 말해서 흥미롭기도 하고 약간 무섭기도 합니다. 그리고 머신 러닝의 특성상, 시스템은 점점 더 똑똑해질 것이며 정말 빠르게 발전할 것입니다(잠을 자거나, 쉬거나, 먹을 필요가 없으니까요). 사회적 영향은 잠재적으로 거대할 수 있으며, 특히 자원이 제한된 개발도상국에 더욱 그렇습니다. 베트남에서 자란 저는 이것에 대해 많이 생각합니다. 얼마나 많은 일자리가 사라질까요? 얼마나 많은 사람들이 재교육받아야 할까요? 재교육을 위한 자원은 무엇이 있을까요? 그들이 새로운 기술을 배우고 싶어할까요?

예를 들어, 이런 것은 어떨까요:

• Microsoft가 사람들에게 새로운 Bing + OpenAI 사용법을 가르치는 온라인 교육 과정 작업을 시작합니다.
  • 예를 들어, 저의 경험상 ChatGPT, Bearly(또는 GPT 3 기반의 다른 애플리케이션)를 한동안 사용해 왔지만, 아직도 매일 시스템을 최대한 활용하는 방법을 배우고 있습니다.
  • 여러 프롬프트를 통해 구체적인 맥락을 제공하는 것이 핵심입니다. "AI 어시스턴트" / Copilot에게 작업을 더 잘 수행할 수 있도록 가능한 한 많은 맥락을 제공해야 합니다.
    • 어제 저는 프롬프트 끝에 "제 말을 이해하셨나요?"를 포함시켜서 기계가 대화 초반의 지시사항에 대한 이해를 되돌려주도록 하는 방법을 배웠습니다.
    • 몇 주 전에는 기계에게 답변이 대상으로 하는 청중을 알려주며 채팅을 시작해야 한다는 것을 배웠습니다. 예를 들어, 답변이 미국 거주 해외 이주자를 대상으로 하도록 기계에게 알려주는 것입니다.
• 그런 다음 기계를 사용하여 이 과정을 가능한 한 많은 언어로 번역합니다.
• 이 과정(과정들)을 Bing 인터페이스의 일부로 포함시켜 모든 사람이 쉽게 배울 수 있도록 합니다.

이 일을 하는 뛰어난 사람들이 모든 국가에 평등한 접근을 보장하는 좋은 계획을 가지고 있기를 바랍니다. 모든 사람이 여정의 일부가 되어 건강한 토론과 논의를 할 수 있도록 말입니다. 저는 이 주제에 대한 학생이며, 이 큰 질문들에 대한 답을 가지고 있는 척하지 않습니다. 하지만 우리 모두가 지금부터 이에 대해 생각하기 시작하는 것이 중요하다고 생각합니다.

이에 대해 어떻게 생각하시나요? AI가 선진국과 개발도상국 사이의 격차를 넓힐까요, 아니면 좁힐까요? 다양한 관점을 듣고 싶습니다 :)

감사합니다,

Chandler