AI를 안전하게 만드는 5가지 핵심 과제

인공 지능 전문가들은 일반적으로 두 학파 중 하나를 따릅니다. 그것은 우리의 삶을 엄청나게 향상시키거나 우리 모두를 파괴할 것입니다. 그리고 그것이 기술이 어떻게 규제되는지에 대한 이번 주 유럽 의회 토론이 중요한 이유입니다. 하지만 어떻게 AI를 안전하게 만들 수 있을까요? 다음은 앞으로 5가지 과제입니다.

인공지능이 무엇인지 동의하기
유럽 ​​의회는 AI 시스템의 정의를 내놓는 데 2년이 걸렸습니다. "인간이 정의한 주어진 목표 세트에 대해 상호 작용하는 환경에 영향을 미치는 콘텐츠, 예측, 권장 사항 또는 결정과 같은 출력을 생성할 수 있는" 소프트웨어입니다. .

이번 주, 그것은 자발적인 코드를 넘어 기업이 준수하도록 요구하는 AI에 대한 최초의 법적 규칙인 인공 지능법에 투표할 예정입니다.

글로벌 합의에 도달
전 영국 인공 지능 사무소 책임자인 Sana Kharaghani는 이 기술이 국경을 존중하지 않는다고 지적합니다.

그녀는 BBC 뉴스에 "우리는 이에 대해 국제 협력이 필요합니다. 어려울 것이라는 것을 압니다."라고 말했습니다. "이것은 국내 문제가 아닙니다. 이러한 기술은 한 국가의 경계 내에 있지 않습니다.

그러나 유엔 스타일의 글로벌 AI 규제 기관에 대한 계획은 아직 없습니다.

유럽 ​​연합의 제안은 가장 엄격하며 AI 제품의 영향에 따라 등급을 매기는 것을 포함합니다. 예를 들어 이메일 스팸 필터는 암 탐지 도구보다 규제가 가벼울 것입니다.
영국은 AI 규제를 기존 규제 기관으로 접고 있습니다. 예를 들어 기술이 AI 규제를 차별했다고 말하는 사람들은 평등 위원회로 갈 것입니다.
미국은 자발적인 코드만 가지고 있으며, 의원들은 최근 AI 위원회 청문회에서 그들이 일을 할 수 있는지에 대한 우려를 인정했습니다.
중국은 AI 알고리즘이 사용될 때마다 회사가 사용자에게 알리도록 할 계획입니다.
대중의 신뢰 확보
"사람들이 그것을 신뢰한다면, 그들은 그것을 사용할 것입니다."라고 International Business Machines (IBM) Corporation EU 정부 및 규제 업무 책임자인 Jean-Marc Leclerc는 말합니다.

AI가 놀라운 방식으로 사람들의 삶을 개선할 수 있는 엄청난 기회가 있습니다. 그것은 이미:

항생제 발견을 돕는
마비된 사람들을 다시 걷게 하는
기후 변화 및 전염병과 같은 문제 해결
그러나 구직자를 선별하거나 범죄를 저지를 가능성을 예측하는 것은 어떻습니까?

유럽 ​​의회는 각 AI 제품에 수반되는 위험에 대해 대중에게 알리기를 원합니다.

규칙을 위반하는 회사는 3천만 유로 또는 전 세계 연간 매출의 6% 중 더 큰 벌금을 물을 수 있습니다.

그러나 개발자가 제품이 어떻게 사용될지 예측하거나 제어할 수 있습니까?

누가 규칙을 작성하는지 결정
지금까지 AI는 대체로 자기 통제적이었습니다.

ChatGPT 창시자 OpenAI의 사장인 Sam Altman에 따르면 대기업들은 잠재적인 위험을 완화하기 위해 "중요한" 정부 규제에 동참하고 있다고 말합니다.

그러나 그들이 규칙 작성에 너무 관여한다면 사람들보다 이익을 우선시할 것인가?

그들은 규제를 설정하는 임무를 맡은 의원들과 가능한 한 가까워지기를 원할 것입니다.

그리고 Lastminute.com 설립자 Baroness Lane-Fox는 기업의 말뿐 아니라 귀를 기울이는 것이 중요하다고 말합니다.

"우리는 시민 사회, 학계, 이러한 다양한 모델과 변화의 영향을 받는 사람들을 참여시켜야 합니다."라고 그녀는 말합니다.

신속하게 행동
ChatGPT에 수십억 달러를 투자한 Microsoft는 ChatGPT가 "단조로운 작업을 없애기"를 원합니다.

그것은 인간과 같은 산문 및 텍스트 응답을 생성할 수 있지만 Mr Altman은 "도구이지 생물이 아닙니다"라고 지적합니다.

챗봇은 작업자의 생산성을 높여줍니다.

그리고 일부 산업에서 AI는 일자리를 창출하고 강력한 조력자가 될 수 있습니다.

그러나 다른 사람들은 이미 일자리를 잃었습니다. 지난 달 BT는 AI가 10,000개의 일자리를 대체할 것이라고 발표했습니다.

ChatGPT는 불과 6개월 전에 대중에게 사용되기 시작했습니다.

이제 에세이를 쓰고, 사람들의 휴가를 계획하고, 전문 시험에 합격할 수 있습니다.

이러한 대규모 언어 모델의 기능은 놀라운 속도로 증가하고 있습니다.

그리고 3명의 AI "대부" 중 2명인 Geoffrey Hinton과 Yoshua Bengio 교수 는 이 기술이 엄청난 피해를 입을 가능성이 있다고 경고했습니다.

EU 기술 책임자인 Margrethe Vestager는 인공 지능법이 "너무 늦었다"고 적어도 2025년까지는 발효되지 않을 것이라고 말했습니다.

그녀는 몇 주 안에 준비될 수 있는 미국과 함께 해당 부문에 대한 임시 자발적 코드를 작성하고 있습니다.