온디바이스AI 시대

"온디바이스 AI(On-Device AI)"는 디바이스 자체에서 데이터를 처리하고 분석하는 인공지능 기술을 나타냅니다. 이 기술은 주로 스마트폰, 태블릿, 스마트워치, 카메라, IoT 기기 등 다양한 종류의 디바이스에 적용됩니다. 온디바이스 AI의 등장은 데이터를 클라우드로 전송하는 대신 디바이스 내에서 처리하고 모델을 실행하는 효율적이고 신속한 AI 응용프로그램을 제공합니다. AI가 모든 영역에 적용되고 고도화하고 모든 기기에 적용되면서 '온디바이스 AI' 시대를 예고하고 있습니다.

새로운 미래

9∼12일(현지시간) 미국 라스베이거스에서 열린 세계 최대 가전·IT 전시회 'CES 2024'는 인공지능(AI)이 모든 영역에 스며들고 있음을 확인할 수 있는 자리였습니다. CES에서 AI가 등장한 것은 2016년 AI 알파고가 이세돌 9단과 바둑 대국에서 승리한 이듬해인 2017년부터였습니다. 그러나 사람처럼 묻고 답하는 생성형 AI 챗GPT가 전 세계적으로 열풍을 일으키면서 7년 만에 전면에 등장했습니다. 

이에 따라 글로벌 기업들은 자사의 기술에 AI를 적용하면서 다른 기업과 협력도 강화해 나가고 있고  AI가 모든 영역에 적용되고 고도화하고 모든 기기에 적용되면서 '온디바이스 AI' 시대를 예고하고 있습니다. 이번 CES에는 150여 개국에서 주요 글로벌 기업 등 4천여 개 기업이 참가했습니다. 우리나라에서도 삼성·현대차·SK·LG·HD현대 등 700여 개 기업이 참가해서  존재감을 뽐냈습니다. 

 

자동차·가전에서…피부 관리부터 쇼핑 검색까지

AI 기술이 빠르게 변화하면서 글로벌 기업 간 경쟁도 치열해지고 있고 이들 기업은 상호 연합군을 구축하며 대응해가고 있습니다. 독일 최대 기술 기업 중 하나인 지멘스는 AI를 적용한 산업용 확장 현실(XR) 헤드셋 개발을 위해 일본의 소니와 손을 잡았고 BMW는 운전자를 지원할 생성형 AI 탑재를 위해 아마존과 협력에 나섰고, 소니 혼다 합작사는 마이크로소프트(MS), 닛산과 링컨은 구글과 파트너십을 체결했습니다. 

월마트는 이미 수년 전부터 MS와 협력해 쇼핑 시 상품 검색을 위한 챗봇 구축을 해왔고  삼성전자와 현대차·기아는 홈투카(Home-to-Car)·카투홈(Car-to-Home) 서비스 제휴를 위한 업무협약(MOU)을 체결했습니다. 현대차·기아 고객은 앞으로 차량 내에서 인포테인먼트 시스템 화면 터치나 음성 명령으로 집에 있는 전자기기를 원격 제어할 수 있게 됩니다. 가정에 있는 인공지능(AI) 스피커나 TV, 스마트폰 애플리케이션을 이용한 원격 차량 제어도 가능해지고, 삼성전자는 또 전기차 업체 테슬라와도 반도체, 에너지 관리 설루션 등에서 협력을 진행, 삼성전자는 지난해 1월 미 반도체 기업 퀄컴, 구글과 확장 현실(XR) 생태계를 구축, 퀄컴은 관련 기기에 탑재할 칩을 개발해 공개했습니다. HD현대는 구글 클라우드와 생성형 AI 플랫폼 구축을 위한 전략적 협력을 강화하기로 했습니다.

 

효율성과 응답 속도 향상

온디바이스 AI는 디바이스 내에서 데이터를 처리하기 때문에 데이터 전송 지연이나 네트워크 연결의 의존성이 줄어듭니다. 이는 응용프로그램의 성능을 향상하고 응답 속도를 높입니다.

 

개인정보 보호

사용자 데이터를 클라우드로 전송하지 않고 온디바이스에서 처리하면 개인정보 보호 측면에서 높은 수준의 안전성을 제공할 수 있습니다. 사용자 데이터가 로컬에서 처리되므로 클라우드로의 불필요한 데이터 전송이 최소화됩니다.

 

유연성

온디바이스 AI는 네트워크 연결이 없는 상황에서도 동작할 수 있습니다. 이는 모바일 기기의 사용자 경험을 향상하고, IoT 기기가 네트워크에 연결되어 있지 않을 때에도 지능형 기능을 제공할 수 있음을 의미합니다.

 

보안 강화

온디바이스에서 처리되는 데이터는 클라우드로의 전송을 피하므로 데이터 유출 위험이 감소하고, 보안이 강화됩니다.

 

고도화되는 AI

지금까지 AI 기능은 특정 사이트에 접속하거나 앱을 설치해야 이용할 수 있었습니다. 인터넷이 연결돼야만 클라우드에 저장된 정보를 가져올 수 있기 때문입니다. 그러나 온디바이스 AI는 클라우드를 거치지 않고 기기에서 바로 명령과 실행을 할 수 있습니다. 인터넷이 필요 없이 기기 자체에서 구동됩니다.

퀄컴 크리스티아누 아몬 CEO는 "AI가 클라우드에서 학습할 필요 없이 개개인이 매일 휴대전화를 사용하고 서로 문자를 보내는 등의 모든 것이 AI의 쿼리(질문)가 될 수 있다"며 "AI가 기기를 사용하는 방식에도 변화를 가져오고 컴퓨팅 플랫폼도 바꾸고 있다"라고 말했습니다. 

미 반도체 기업 인텔의 팻 겔싱어 최고경영자(CEO)는 지난 9일 기조연설에서 "앞으로 클라우드를 이용하지 않고, AI PC를 통해 내 컴퓨터에서 모든 것을 할 수 있게 될 것"이라고 말했습니다.

 

마치며

주요 기술로는 경량화된 딥러닝 모델, 하드웨어 가속기 기술, 최적화된 알고리즘 등이 포함됩니다. 온디바이스 AI의 발전은 더 나은 사용자 경험과 보안을 제공하는 데 기여하며, 다양한 분야에서 활용되고 있습니다.