콘텐츠
제공 : AltaML
큐:
일부 회사에서는 왜 현대적인 인공 지능 시스템에 "인간 피드백 제어"를 추가하려고합니까?
에이:
최첨단 AI 기술을 사용하는 일부 회사는 이러한 시스템에 대한 인간 통제를 구현하기 위해 노력하고 있으며 기계 학습 및 딥 러닝 도구에 직접적인 인간 감독을 제공합니다. Google의 DeepMind와 Elon Musk의 OpenAI는 인공 지능 발전에 대해 실습하는 주요 회사의 두 가지 예입니다. 예를 들어, DeepMind는 주요 데이터를 대중에게 제공하지 않으려는 인식으로 인해 논란의 대상이되어 왔으며 OpenAI는 훨씬 더 중요합니다. 열다 인공 지능을 제어하는 작업에 대해
빌 게이츠 (Bill Gates)와 같은 주목할만한 문제들조차도이 문제에 대해 인간이 통제 할 수없는 인공 초 지능의 출현에 대해 우려하는 많은 사람들 중 한 명이라고 게이츠는 말했다. 머스크는 또한 "불량 AI"의 가능성에 대해 놀라운 언어를 내놓았다.
이것이 회사가 AI에 휴먼 컨트롤을 적용하려는 가장 시급한 이유 일 것입니다. 기술적 특이점으로 인해 더 이상 인간이 더 이상 제어 할 수없는 강력한 강력한 기술이 만들어 질 것이라는 생각입니다. 인간의 야망이 시작된 이래로 우리는 고삐와 마구가 달린 말, 절연 전선의 전기 또는 다른 종류의 제어 메커니즘과 같이 우리가 사용하는 힘을 제어 할 수있는 도구를 마련했습니다. 제어는 선천적으로 인간의 기능이므로 인공 지능이 실제 기능에 더 가까워 질수록 인간은 자신의 직접 제어를 적용하여 그 힘을 확인합니다.
그러나 기업이 기계 학습 및 AI 프로젝트에 휴먼 컨트롤을 적용하는 이유는 슈퍼 인텔리전트 로봇에 대한 두려움이 아닙니다. 또 다른 주요 이유는 기계 바이어스입니다. 이는 인공 지능 시스템이 종종 문제의 데이터를 평가하는 방식이 제한되어 시스템에 내재 된 모든 바이어스를 증폭 시킨다는 아이디어입니다. 머신 러닝을 다루는 대부분의 전문가는 성별이나 인종적 차이 또는 인간의 사회의 뉘앙스를 실제로 이해하지 못하는 시스템의 실패 등 인간 사용자 그룹을 똑같이 취급 할 수 없었던 IT 시스템에 대한 공포 이야기를 들려줍니다. 우리가 사람들과 상호 작용하는 방법.
어떤 의미에서, 우리는 너무 강력 할 수도 있고, 충분히 강력하지 않을 수도 있기 때문에 시스템에 휴먼 컨트롤을 배치 할 수도 있습니다. 휴먼 컨트롤은 머신 러닝 데이터 세트를 대상으로하여보다 정확한 정보를 제공합니다. 그들은 모델이 충분히 정교하지 않거나 AI가 충분히 발전하지 않았거나 어떤 것이 인간의 인식의 영역에 놓여 있기 때문에 컴퓨터가 스스로 스스로 배울 수 없다는 아이디어를 강화하는 데 도움이됩니다. 인공 지능은 보상 및 점수 기반 시스템과 같이 매우 복잡한 보드 게임 인“Go”에서 인공 지능이 인간 플레이어를 이길 수 있도록하는 것과 같은 일부 경우에 유용합니다. 그러나 다른면에서이 인센티브 기반 시스템은 전적으로 부적절하다.
간단히 말해, 인공 지능 프로젝트가 작동하는 방식에 인간 사용자를 직접 참여시켜야하는 많은 이유가 있습니다. 최고의 인공 지능 기술조차도 스스로 많은 생각을 할 수 있지만 감정이나 사회적 관습과 같은 것을 처리 할 수있는 실제 생물학적 인간 두뇌가 없으면 인간의 방식으로 큰 그림을 볼 수 없습니다.
숙련 된 머신 러닝 회사 큰 비즈니스 문제를 해결하는 기술을 갖춘 비즈니스 및 주제 전문가와 머신 러닝 개발자의 혼합으로이 균형을 잡을 수 있습니다.
