안경레고 블로그

  • 홈
  • 태그
  • 방명록

실시간 추론(low latency) 1

온디바이스 AI: 클라우드를 넘어 디바이스 자체에서 실행되는 인공지능의 시대

1. 온디바이스 AI란?온디바이스(On-Device) AI란 스마트폰, IoT 기기, 엣지 디바이스 등 디바이스 자체에서 인공지능 연산(추론)을 수행하는 기술을 말합니다.전통적인 클라우드 기반 AI는 데이터를 서버로 전송하여 대규모 GPU/TPU 등 고성능 하드웨어로 분석·예측을 진행합니다. 그러나 온디바이스 AI는 로컬 디바이스에 탑재된 칩(Neural Processing Unit 등)과 최적화된 소프트웨어를 활용하여 실시간으로 AI 모델을 추론합니다.2. 온디바이스 AI가 주목받는 이유실시간 반응 속도데이터가 클라우드로 전송되지 않고 디바이스 내부에서 처리되므로, 지연(latency)이 획기적으로 감소합니다.예) 음성 비서가 사용자 명령에 즉시 반응, 카메라 앱에서 실시간으로 물체/인물 인식.개인정보..

기술 투자/tech 트렌드 2025.03.04
이전
1
다음
더보기
프로필사진

안경레고 블로그

데이터 개발뿐 아니라 관심사를 gpt 와 함께 정리중입니다.

  • 분류 전체보기 (195)
    • 코딩 교육자료 (8)
    • 기술 투자 (74)
      • 국내 기업 (14)
      • 국외 기업 (9)
      • tech 트렌드 (19)
      • it 트렌드 (13)
      • 의료 (4)
      • 로봇 (8)
      • 양자컴퓨팅 (3)
      • 플랫폼 (4)
    • IT 활용 기술 (79)
      • ai 활용 (27)
      • it 관련 지식 (20)
      • ai 기술관련 (5)
    • 쉬운 통계 (2)
    • 필라테스 (6)
    • 건강 지키기 (10)
    • 이것 저것 알아보기 (9)
      • 드라마속 패션 (2)
    • 데이터 (3)
      • python (0)
      • SQL (2)
      • spark (0)
      • ML (1)
      • NLP기초 (0)
      • 딥러닝 (0)
      • airflow (0)

Tag

make.com, OpenAI, 프라이버시 보호, chatGPT, idfa (광고 식별자), cursor ai 단축키, Zapier, adid (android 광고 id), floc(federated learning of cohorts), 프라이버시 샌드박스, 제3자(third-party) 쿠키, 산업용 로봇, 워드프레스 수익화 방법, 인공지능, 자사(first-party) 데이터, GPT, AI 에이전트, 오픈채팅, 워드프레스 광고 최적화, 코호트(cohort) 기반 타겟팅,

최근글과 인기글

  • 최근글
  • 인기글

최근댓글

공지사항

  • 안녕하세요? 안경레고 입니다.

페이스북 트위터 플러그인

  • Facebook
  • Twitter

Archives

Calendar

«   2025/05   »
일 월 화 수 목 금 토
1 2 3
4 5 6 7 8 9 10
11 12 13 14 15 16 17
18 19 20 21 22 23 24
25 26 27 28 29 30 31

방문자수Total

  • Today :
  • Yesterday :

Copyright © Kakao Corp. All rights reserved.

티스토리툴바