온디바이스 AI에 대해서!
CES, IFC와 함께 세계 3대 IT 컨퍼런스 중 하나인 MWC 2024(Mobile World Congress)가 바르셀로나에서 열렸습니다. 그리고 이 컨퍼런스에 대한 내용을 얼마 전에 공유해 드렸었죠. 공유해 드린 내용은 이번 MWC의 핵심인 온디바이스 AI, 기업들의 경계를 넘어선 연대, 6G에 대한 내용이었습니다. 오늘은 이 중에서 ‘온디바이스 AI’에 대해서 조금더 자세히 공유해 드릴까 합니다. |
온디바이스 AI란?최근 AI를 통해 다양하고 빠르게 환경이 변하고 있습니다. 자율주행차부터 챗봇, 영상 및 이미지 생성 등 정말 다양한 분야에서 AI를 활용하고 있습니다. 거기에 스마트폰 등과 같은 소형 디바이스 업계에서는 온디바이스 AI로의 전환을 모색하고 있습니다. 그럼 온디바이스 AI란 무엇일까요? 온디바이스 AI란 소형 디바이스에서 AI 기능을 자체적으로 제공하는 것을 말합니다. 현재 사용되는 대부분의 AI는 방대한 데이터를 통해 제공됩니다. 그리고 이러한 모든 데이터는 클라우드에 저장되며, AI 기반 기능을 사용하려면 디바이스가 인터넷을 통해 데이터에 액세스해야 합니다. 이렇게 하면 디바이스의 부하는 낮아지지만 개인 정보 보호에는 좋지 않을 수 있습니다. 특히 휴대폰과 같은 장치의 경우 중요한 개인 데이터가 많이 포함되어 있는데 AI 기능을 위해서 개인 데이터를 AI 서버에 업로드해야 하는 경우가 생깁니다. 이런 관점에서 온디바이스 AI는 더 안전할 수 있습니다. 온디바이스 AI는 개인 데이터를 서버에 업로드할 필요도 없고 인터넷에 연결할 필요도 없이 디바이스 자체에서 AI 처리를 하니까요. |
온디바이스 AI의 작동 방식ChatGPT, DALL-E 등과 같은 기존의 AI 모델은 클라우드에서 훈련되며 방대한 양의 데이터를 사용합니다. 또한 많은 컴퓨팅 성능이 필요하기 때문에 실행하는 데 비용이 많이 들기도 합니다. 물론 온디바이스 AI라고 해서 이런 AI 모델을 사용하지 않는 것은 아닙니다. API 등과 같은 다양한 방식으로 통합하여 사용할 수 있는 것이죠. 단지 기존의 AI 모델을 디바이스에 다운로드하여 내장된 상태로 사용하는 것이죠. 그렇기에 굳이 개인 데이터를 클라우드 서버에 업로드할 필요는 없는 것입니다. 그리고 최적화된 AI 모델을 디바이스에 다운로드한 후 오프라인으로 디바이스의 AI 모델을 실행하게 되는 것입니다. 그렇기에 데이터의 입력 정보와 출력 정보는 그대로 디바이스에 남아있게 되는 것입니다. 그리고 이로 인해 당연히 개인 데이터에 대한 보안이 강화될 수 있는 것이고 말이죠. |
온디바이스 AI의 장점온디바이스 AI를 사용하면 다양한 장점들이 있습니다. 개인 데이터 보호 및 보안 위에서도 이미 언급해 드렸지만, 기존 AI처럼 다양한 플랫폼이나 클라우드 서비스로 데이터를 전송, 저장 및 사용하면 데이터 추적, 조작 및 도난의 가능성이 높아집니다. 온디바이스 AI에서는 입력과 출력 데이터가 사용자의 디바이스에 남아 있기 때문에 개인 데이터의 보호 및 보안에 도움이 됩니다. 그리고 금융, 의료 등의 민감한 데이터를 사용하는 애플리케이션에서도 보안과 관련하여 도움이 될 수 있습니다. 예를 들어, 금융 관련 애플리케이션에서 자신의 금융 관련 정보를 클라우드에 업로드하지 않고도 온디바이스 AI를 통해 유용한 AI의 결과를 얻을 수 있는 것입니다. AI 성능 일반적으로 기존의 AI의 경우에는 입력 값을 생성형 AI에 보내고 생성형 AI가 응답을 하게 됩니다. 하지만, 네트워크 혼잡이나 클라우드 서버로 인해 지연이 발생할 수 있습니다. 하지만, 온디바이스 AI의 경우에는 AI 결과 수행을 디바이스에서 직접 처리하므로 그런 지연이 발생하지 않기에 성능이 더 좋을 수 밖에 없는 것이죠. 그리고 인터넷 연결이 없어도 되기에 언제 어디서나 AI를 활용할 수 있습니다. AI 개인화 기존의 AI의 경우는 대중적인 데이터를 활용하기 때문에 일반적인 모델링이 될 수 밖에 없습니다. 하지만, 온디바이스 AI의 경우는 사용자의 디바이스에 있는 사용자에 특화된 정보로 기존 모델에서 추가 학습이 가능하기에 사용자를 위한 최적화된 개인화가 가능한 것입니다. 그리고 개인 데이터가 외부로 제공되지 않으므로 보안상으로 안전한 환경에서 개인화를 할 수 있게 되는 것이죠. AI 비용 생성형 AI가 초기에는 사용 요금이 무료인 경우가 많습니다. 많이 사용하게 하고 많이 알려야 하기에 무료 비용 전략을 사용한 것이죠. 하지만, 관련 인프라 및 운영 비용이 계속 상승하기 때문에 사용 요금을 부과하기 시작했습니다. 이로 인해 사용에 따라 지속적으로 비용을 지불할 수 밖에 없습니다. 하지만, 온디바이스 AI에서는 디바이스 자체에서 처리하기에 사용 비용이 낮아질 수 있는 것입니다. ESG 관련(환경 및 지속 가능성) 기존의 생성형 AI의 경우에는 네트워크와 클라우드 서버를 사용하기에 다양한 장치에 대한 에너지 비용이 발생합니다. 하지만, 온디바이스 AI의 경우는 디바이스에서 발생하는 최소한의 에너지 비용으로 AI를 활용할 수 있게 되는 것이죠. * ESG와 지속 가능성에 대해서는 아래 글을 참고해 보시기 바랍니다.
오늘은 온디바이스 AI에 대해서 공유해 드렸습니다. 리서치를 하면 할수록 세상이 급변하고 있다는 것을 절실히 느끼고 있습니다. 그리고 이렇게 급변하는 세상 속에서 살아남기 위해서는 그런 변화를 인지하고 잘 대응해 나가야하지 않을까 하는 생각을 많이 하고 있습니다. 그렇지 않으면 기업이든 개인이든 공룡처럼 세상 속에서 도태될 수 밖에 없을테니까 말이죠.
* Author: OpsNow Editor(donghun.cho@bespinglobal.com) |
| 클라우드나 SaaS와 관련하여 다른 궁금한 점이 있으시면 언제든지 저희에게 문의해 주세요.
저희에게는 클라우드에 대한 다양한 정보와 경험, 그리고 도구가 있습니다.
|
