AI 계산을위한 Microsoft의 특수 하드웨어를 Brainwave 라고하며, 최소 대기 시간으로 신경 네트워크를 가능한 빨리 실행하는 방식으로 만들어졌습니다.

이 회사는 Brainwave를 사용한 이후 Bing의 AI에서 10 배 빠른 성능을 달성했다고 발표했습니다. 기계 학습 모델은 기본적으로 검색 엔진의 기능을 강화합니다.

Brainwave를 통해 달성해야하는 Microsoft의 목표는 최신 Bing 기능과 같은 앱에 실시간 AI 예측을 제공하는 것입니다.

Bing은 새로운 기능을받습니다

Microsoft는 또한 Bing에 몇 가지 새로운 기능을 제공하며 언급 할만한 가장 중요한 기능은 사용 방법 질문에 대한 답변을 더 많이 제공하고 사용자가 마우스 포인터를 가져다 놓을 때 자주 사용하지 않는 단어를 정의 할 수 있도록 지원하는 것입니다. 이러한 기능은 Brainwave에 의해 강화됩니다.

Microsoft는 인텔의 FPGA를 사용하여 AI 계산을 강화하고 있습니다.

FPGA는 개발자가 새로운 소프트웨어를 보내 다양한 ​​회로를 배포 할 때 사용할 수있는 일종의 빈 캔버스입니다. 여기에는 강력한 성능 및 프로그래밍 기능이 포함됩니다.

이제 Microsoft는 하드웨어로 더 빠른 모델을 만드는 것 이상을 수행 할 수 있습니다. 회사는보다 정교한 AI 시스템을 구축 할 수도 있습니다. 예를 들어, Bing의 Turing Prototype 1은 이제 Brainwave를 통해 추가 된 계산 용량 덕분에 10 배 더 복잡하고 빨라졌습니다.

Microsoft에서 배포 한 FGA에는 복잡한 AI 수학을 위해 향상된 전용 디지털 신호 프로세서가 내장되어 있습니다.

FPGA의 주요 이점

AI 계산에서 선호되는 GPU에 비해 ​​FPGA의 가장 큰 장점은 일괄 계산을 광범위하게 사용할 필요가 없다는 것입니다.

마이크로 소프트가 FPGA를 통해 성공적인 결과를 얻을 수있게 해주는 핵심 혁신은 성능을 크게 향상시키는 8 비트 및 9 비트 부동 소수점 데이터 유형의 사용입니다.

인텔의 FPGA 칩을 통해 Bing은 웹 전체에서 수십억 개의 문서를 신속하게 읽고 분석 할 수 있으며, 1 초도 채 걸리지 않아 귀하의 질문에 가장 적합한 답변을 제공 할 수 있습니다.

실제로 인텔의 FPGA를 통해 모델의 대기 시간을 10 배 이상 줄이면서 모델 크기를 10 배 늘릴 수있었습니다.

2012 년에 AI 계산 날짜를 가속화하기 위해 FPGA 사용

Microsoft는 Bing 팀이 칩을 사용하기 시작한 6 년 전에 AI 계산 속도를 향상시키기 위해 FPGA를 사용하기 시작했습니다. 이 모든 것이 인텔에게도 희소식입니다. 이 회사는 2015 년에 FPGA 제조업체 인 Altera를 인수했으며 167 억 달러에 이르는 계약으로 인텔은 오늘날까지 Microsoft의 요구를 충족시키는 데 필요한 힘을 제공했습니다.

우리는 고객이 모델을 배포 할 수있는 기회를 제공하기 위해 Microsoft Azure를 통해 Brainwave를 사용할 수 있기를 기대합니다.