캘 리 포 니 아 대학 버클 리 분 교 수 는 Piter Abbel 교 수 를 방문 했다. 결국 우 리 는 AI 에 게 '닫 기 버튼' 을 설치 해 야 한다. 그렇지 않 으 면 매우 위험 하 다.

로봇 반복 동작의 한 계 를 깨 뜨리 고 로봇 의 자기 학습, 환경 인식 과 피드백 을 실현 한다. 인 류 는 AI 와 어떻게 지내 야 하 는가?'신형 전력' 으로서 AI 와 파생 로봇 은 반드시 미래 에 중요 한 자 리 를 차지 할 것 이다. 그러나 이 목 표를 실현 하고 광범 위 하고 보편적 이 며 AI 를 합 리 적 으로 사용 하 는 목 표를 실현 하려 면 사람들 은 아직도 많은 어려움 을 극복 해 야 한다.

10 월 22 일 에 제3자 자문 기구 안 영 은 보고 서 를 발표 하여 중국 대륙 기업 들 이 인공지능 의 미래 발전 에 대해 상대 적 으로 신중 하고 보수적인 태 도 를 보인다 고 지적 했다. 68% 의 응답자 들 은 인공지능 이 향후 5 년 동안 업계 에 큰 영향 을 미 칠 것 이 라 고 전망 했다. 정부의 정책 지원 과 산업 업그레이드 의 배경 에서 기업 의 인공지능 성숙 도가 비교적 크다.높 지만 네트워크 안전, 데이터 관리, 혁신 관리 등 분야 에 아직도 부족 합 니 다.

2009 년 부터 2019 년 사이 에 중국 대륙의 인공지능 투자 금액 이 계속 증가 하면 서 모두 2827 억 위안 을 누적 투자 했다.인공지능 에 대한 투자 에서 컴퓨터 시각 과 스마트 로봇 은 주요 투자 분야 이다.

캘 리 포 니 아 대학 버클 리 분 교 수 · 버클 리 인공지능 실험실 주임 피 에 터 애 비 엘 의 주요 연구 분 야 는 로봇 과 기계 학습 에 전념 해 왔 으 며, 특히 심도 있 는 학습 분야 에서 앞장 서고 있다.이 동시에 그 는 Covarian. AI (창고 와 공장 지능 과 로봇 자동화), Gradescope (인공지능 채점 시스템) 의 공동 창립자 이자 수석 과학자 이다.

최근 21 세기 경제 보도 기자 의 인터뷰 에서 산업 용 로봇 에서 가정용 로봇 으로 발전 하 는 과정 에서 가장 큰 변 화 는 반복 동작 을 하 는 로봇 을 2. 0 으로 바 꾸 는 것 이다. 즉, 그 상황 에 따라 피드백 을 하 는 로봇 을 볼 수 있다 는 것 이다.올해 들 어 로봇 이 환경 에 대해 피드백 을 하 는 기능 은 이미 실 용적 인 기능 을 발휘 했다.

인류 가 주목 할 만 한 것 은 AI 가 진정 으로 '각성' 한 후에 그들 이 세 계 를 지배 할 수 있 을 까 하 는 것 이다.AI 와 인간 이 두려워 하 는 악 거 리 는 얼마나 됩 니까?

다음은 대화 실 록 이다.

: 올해 상반기 에 전 세계 가 새로운 폐렴 의 영향 을 받 았 습 니 다.인류 생활 에서 AI 는 어떤 역할 을 맡 았 습 니까?점점 더 중요 해 지나 요?

Piter Abbeel: 바이러스 가 유행 하 는 배경 에서 후방 인 프 라 시설 처럼 직원 들 이 모 이 는 일 은 위험 하고 중요 하 다. 왜냐하면 우리 모두 가 인터넷 쇼핑 을 해 야 하기 때문에 물류 가 필요 하 다.그래서 저 는 대형 창고 와 같은 장 소 를 운영 하면 더욱 자동화 되 고 안전 하 며 믿 을 수 있 기 를 바 랍 니 다.또 머 신 러 닝 은 사물 의 발전 과 통제 에 도 도움 이 된다.

앞으로 AI 는 사람들 이 바이러스 에 대응 하고 의료 서 비 스 를 할 수 있 도록 도 울 수 있 기 를 바 랍 니 다.현재, 우 리 는 백신 연구 개발 과 약물 치료 방면 에 현저 한 진전 이 없 지만, AI 는 의료 서비스 분야 에 뛰어난 기 여 를 하고 있 으 며, 현재 우리 가 이 룬 성과 보다 훨씬 좋다 고 믿 습 니 다.

: AI 의 발전 은 몇 단계 로 나 뉘 는데 지금 우리 가 어느 단계 에 있다 고 생각 하 십 니까?

Piter Abbel: 최초의 50 - 60 년대 에 우 리 는 검색 과 이론 적 추 리 를 주목 했다. AI 는 인류 가 아직 입증 할 수 없 는 이론 을 증명 할 수 있 고 뛰어난 기사 가 될 수 있 음 을 발견 했다.그러나 이것 은 매우 뚜렷 한 규칙 에 기초 하고 있 기 때문에 왜 AI 가 이렇게 하 는 지 이해 할 수 있다.

20 세기 말 과 금세 기 초 에 AI 는 모듈 식별 과 확률 추리 에 큰 진전 을 보 였 다.현재 대량의 데 이 터 를 얻 었 기 때문에 우 리 는 이 두 가지 측면 에서 더욱 큰 발전 을 했다. 예 를 들 어 컴퓨터 시각 이다.비록 이 기술 문 제 를 완전히 해결 하지 못 했 지만 이 과정 에서 많은 성 과 를 얻 었 고 실제 적 인 상업 활동 에 투입 되 었 다.

현재 우 리 는 모듈 인식 이 고도 로 발달 한 단계 에 있다.사람들 이 문 제 를 해결 하려 면 컴퓨터 학습 에 많은 데이터 가 필요 하 다.

예 를 들 어 로봇 이 행인 이나 차량 을 식별 하려 면 작업 에 들 어가 기 전에 수많은 행인 과 차량 의 사진 을 배 워 야 한다.그러나 미래 에 로봇 은 스스로 배 울 수 있 고 기계 가 대량의 데 이 터 를 자동 으로 배 울 수 있 습 니 다. 마치 신생아 처럼 세 계 를 자 발 적 으로 관찰 할 수 있 습 니 다. 사람들 이 반복 적 으로 가 르 칠 필요 가 없고 대량의 정 보 를 표시 할 필요 가 없습니다.앞으로 5 년 동안 우 리 는 표지 없 는 데이터 의 영향 을 이용 하고 보고 그 후에 더 많은 응용 을 탄생 시 킬 수 있다.

: 일반인 들 이 일상생활 에서 심도 있 는 학습 을 강화 하지 못 한다 면 현재 이 단계 에서 가장 큰 어려움 과 가장 급 한 수 요 는 무엇 입 니까?

Piter Abbel: 하 긴, 깊이 있 는 학습 은 일반인 의 생활 과 는 거리 가 멀 어.그러나 우리 가 로봇 이 실제 동작 이나 모방 보 다 는 입력 한 그림 만 배 워 야 한 다 는 점 을 고려 할 때 과학 기술 은 큰 발전 을 이 루 었 다.지난 몇 년 동안 우 리 는 학습 을 심도 있 게 강화 하고 자율 학습 을 결합 시 켜 서 상태 학습 과 이미지 학습 을 통 해 똑 같은 효 과 를 얻 을 수 있다 는 것 을 알 게 되 었 습 니 다. 저 는 이것 이 중요 한 돌파 라 고 생각 합 니 다.하지만 효율 성 이 떨 어 지 므 로 많은 테스트 가 필요 하 다.

다른 한편, 만약 에 제 가 시스템 에 정착 하고 싶다 면 저 는 강제로 공부 하 는 것 부터 시작 하지 않 고 모방 부터 시작 하 겠 습 니 다.나 는 먼저 사람들 이 차 를 운전 하고 일 을 완성 하 는 시범 을 수집 한 후에 로봇 에 게 흉 내 를 내 게 하 는 것 이 더욱 편리 하 다.그 다음 에 강제 학습 을 활용 하여 향상 시 키 고 보완 한다.

: 우 리 는 가정용 로봇 을 광범 위 하 게 사용 하 는 데 얼마나 걸 립 니까?가정용 로봇 을 발전 시 키 는 과정 에서 우 리 는 어떤 어려움 과 기회 에 직면 합 니까?

Piter Abbel: 가정 마다 상황 이 다 르 고 배치 가 다 르 며 어떤 가정 은 애완동물 이나 아이 가 있어 서 방 을 망 치 는 경우 가 많 습 니 다.그래서 내 가 로봇 을 설계 할 때 로봇 의 미래 근무 환경의 구 조 를 고려 해 야 한다.

우 리 는 공장 에서 각종 로봇 이 일 을 하 는 것 을 볼 수 있 지만, 그것들 은 끊임없이 같은 동작 을 반복 하고 있다.

: AI 는 자동 운전, 의료 서비스, 교육 등 분야 에 광범 위 하 게 응용 되 었 고 앞으로 또 어떤 분야 에서 상업 적 잠재력 을 보 여줄 것 인가?

Piter Abbel: 제 박사 지도 교수 님 께 서 AI 는 신형 전력 이 라 어디 에 도 없 을 것 이 라 고 말씀 하 셨 습 니 다.나 는 그의 관점 에 매우 동의 한다.더 많은 데 이 터 를 바탕 으로 많은 사람들 이 AI 에 대해 정확 한 예측 을 함으로써 상업 적 우 위 를 발휘 할 수 있다.

2020 년 에 제 가 본 가장 큰 변 화 는 1. 언어 처리 입 니 다.올해 구 글 이 개발 한 제품 과 같은 예측 적 언어 모델 이 등장 했다.이런 모델 들 은 예전 에 비해 많이 발전 되 었 고 사람들 은 이 를 바탕 으로 많은 응용 을 할 것 이다.예 를 들 어 대화 로봇, 운동 로봇, 오락 로봇 등 은 사람들 과 유창 하 게 대 화 를 하고 기계 언어 전환 능력 을 향상 시 킬 수 있다.

2. 로봇 기술.많은 일 들 이 단지 반복 적 인 동작 으로 만 이 루어 질 수 는 없다. 너 는 관찰 하고 피드백 해 야 한다.앞으로 몇 년 동안 로봇 은 대부분의 인간 의 손 작업 을 완성 할 것 이다.

이런 부분 에서 사람들 이 가장 많이 토론 하 는 것 은 자동 운전 기술 이지 만 사람들 이 생각 하 는 것 보다 개발 이 더 어렵다 고 생각 합 니 다. AI 가 발생 할 수 있 는 오 류 는 치 명 적일 수 있 지만 시스템 이 치 명 적일 수 있다 는 것 을 보 여 주 려 는 회사 가 없 기 때문에 이 기술 의 신뢰성 이 부족 합 니 다.실험실 에 서 는 아주 우수한 자동 운전 제품 을 개발 할 수 있 으 나, 그것 을 현실 생활 에 도입 할 때, 서로 다른 차량 들 이 서로 다른 운전 자 를 만 나 고 시스템 이 고도 의 신뢰성 을 달성 하기 어렵다.

: 안전, 프라이버시 등 분야 에서 AI 는 어떤 도덕 적 도전 에 직면 했 습 니까?우리 가 무슨 해결 조 치 를 취 할 수 있 겠 습 니까?

Piter Abbel: 많은 사람들 이 이런 의문 을 가지 고 있 습 니 다. 왜냐하면 우 리 는 AI 가 합 리 적 으로 사용 되 지 않 은 예 를 많이 봤 기 때 문 입 니 다. 예 를 들 어 수사 도구 가 고장 나 거나 경찰 이 용의 자 를 잘못 잡 는 등 입 니 다.따라서 AI 의 도덕 적 문제 에 대해 서 는 신중 해 야 한다.만약 한 사람 이 잘못 을 저 질 렀 다 면, 그 는 단지 잘못 을 저 질 렀 을 뿐이다.그러나 AI 가 잘못 을 저 질 렀 다 면 몇 번 의 실수 도 있 었 을 것 이다.

문 제 는 AI 가 도덕 적 선택 을 할 때 측정 하 는 방법 이다.비록 때때로 이 측정 이 완벽 하 지 는 않 지만, 적어도 측정 후에 우 리 는 그것 을 연구 하고 훈련 시 켜 더욱 좋 은 결정 을 내 릴 수 있다.기술 의 발전 아래 서 는 좋 은 해결 방법 이 있 을 것 이나, 확실히 아직 갈 길이 멀다.

: AI 가 진정 으로 '각성' 한 후에 그들 이 세 계 를 지배 할 것 이 라 고 생각 합 니까?

Piter Abbel: 저 는 아직 이 문제 에 대해 답 이 없습니다.현실 에서 한 사람 이 더 똑똑 하 다 고 해서 그 에 게 더 큰 권력 이 있 는 것 은 아니다.하지만 AI 가 인간 보다 10 만 배 나 똑똑 하 다 면 AI 가 세 계 를 지배 하거나 돈 을 많이 벌 수도 있다.이것 은 우리 가 원 하 는 것 이 무엇 인지, 그들 을 통제 하 느 냐, 아니면 그들 이 충분히 똑똑 한 후에 자신 이 하고 싶 은 일 을 하 느 냐 에 달 려 있다.이것 은 복잡 한 문제 다.

《 21 세 기 》: 사태 가 이렇게 까지 되 는 것 을 막 을 어떤 조치 가 있 습 니까?예 를 들 어 프로그램 을 설정 하 는 기준?

Piter Abbel: 버클 리 에 인류 AI 공존 센터 가 있 는데 우 리 는 AI 를 어떻게 통제 하 는 지 연구 하고 있다. 예 를 들 어 '닫 기 버튼' 을 설정 하지만 한 로봇 이 몸 이나 감정 을 통 해 닫 히 는 것 을 막 을 수 있다.그래서 우 리 는 인류 가 그것 을 관찰 하고 있 음 을 이해 할 수 있 지만 인류의 의 도 를 완전히 이해 할 수 없 는 AI 시스템 이 필요 하 다.우 리 는 AI 가 인간 의 요 구 를 완전히 알 기 를 바라 지 않 는 다. 그렇지 않 으 면 위험 하 다.

로봇 에 게 명확 하고 엄격 한 목 표를 줄 수 없다. 로봇 은 그들 이 모든 것 을 이해 하지 못 한 다 는 것 을 알 아야 한다.