본문 바로가기

반응형

Processor

스마트폰 에이전틱 AI 구현은 HW가 관건…카운터포인트, 고속 대용량 메모리 혁신 필요 에이전틱(Agentic) AI 시대를 맞아 스마트폰에게 가장 필요한 것은 하드웨어 혁신, 그중에서도 메모리 용량과 대역폭의 확대다. 스마트폰이 다양한 AI 에이전트나 에이전틱 AI를 의도와 맥락에 맞게 고급 AI 작업을 수행하려면, 무엇보다 성능과 기능의 기본이 되는 하드웨어 성능에 변화가 필요한 상황이다.카운터포인트(Cpounterpoint)가 ‘에이전틱 AI 시대 성공을 위한 필수적인 메모리 혁신'을 통해, 향후 스마트폰을 기반으로 한 에이전틱 AI가 성공을 거두려면 무엇보다 메모리 혁신이 필요하다고 강조했다. 지금 보다 훨씬 많은 저장 용량을 가진 고용량 메모리와 전송 속도가 획기적으로 향상된 메모리가 필요하다는 것이다.스마트폰에서 에이전틱 AI를 구현하려면 프로세서, 메모리, 배터리 등 다양한 하.. 2025. 6. 20. 더보기
그래프코어, 슈퍼컴 수준의 IPU 성능 달성...MLPerf 벤치마크 결과 공개 그래프코어가 지능형 처리 장치인 IPU-POD64 시스템에 대한 첫 번째 MLPerf 벤치마크 결과를 공개했다. 이번 벤치마크에서 IPU-POD64는 BERT 학습 시간에서 9분, ResNet-50 학습 시간에서 14.5분을 기록했다. 이는 슈퍼컴퓨터에 버금가는 성능으로, 경쟁사와 대비할 때 달러당 성능 지표에서 확고한 우위를 선점한 것이라고 그래프코어는 밝혔다. 컴퓨팅 시스템의 성능은 단순하게 하드웨어의 기계적인 사양만으로는 성능을 객관적으로 평가하기 힘들다. 그래서 필요한 것이 주로 사용하는 용도와 목적에 맞도록 설계된 벤치마크 프로그램이다. 최근 들어 인공지능 처리능력을 극대화한 GPU, IPU 등의 사용 범위와 규모가 커지면서, 이들 시스템이나 플랫폼의 성능을 테스트하는 MLPerf와 같은 벤치마.. 2021. 7. 8. 더보기