AI Core와 ML Kit Prompt API 핵심 정리(Android 온디바이스 AI 입문)-고슴도치 군단

온디바이스 AI 등장 배경

스마트폰이 고성능 NPU를 탑재하면서 클라우드 없이도 AI 추론이 가능한 환경이 마련됨.

기존 클라우드 기반 AI는 네트워크 의존성, 레이턴시, 서버 비용이라는 세 가지 한계를 가지고 있었음.

Google은 이를 해결하기 위해 Gemini Nano와 AICore를 Android 생태계에 통합하기 시작함.

AI Core 개요

AI Core(AICore)는 Android 14부터 기본 탑재된 시스템 레벨 서비스임.

온디바이스 AI 모델의 배포·업데이트·추론 가속을 일괄 관리하는 인프라 역할을 담당함.

앱 개발자는 모델 파일을 직접 관리할 필요 없이 AICore가 제공하는 API만 호출하면 됨.

AICore의 주요 역할은 다음과 같음.

• 모델 자동 배포 및 업데이트 관리
• NPU/GPU를 활용한 하드웨어 가속 추론
• 안전 필터 내장 및 출력 검증
• Private Compute Core 원칙 준수

Gemini Nano 아키텍처

Gemini Nano는 Google이 온디바이스 전용으로 설계한 경량 AI 모델임.

Gemini 시리즈 중 가장 작은 모델로, 모바일 기기의 제한된 메모리와 연산 환경에 최적화되어 있음.

AICore 위에서 실행되며, 기기 안에서 모든 추론이 완결되기 때문에 데이터가 외부로 전송되지 않음.

Gemini Nano의 핵심 특징을 정리하면 다음과 같음.

특징	설명
오프라인 동작	네트워크 없이 완전한 추론 가능
하드웨어 가속	NPU/GPU 최적화로 낮은 레이턴시
프라이버시 보호	입출력 데이터 처리 후 미저장
자동 업데이트	AICore가 모델 버전 관리 일괄 처리

ML Kit Prompt API 개요

ML Kit의 GenAI API 중 하나로, 현재 알파 단계임.

개발자가 자연어 프롬프트를 작성하면 기기 내 Gemini Nano가 이를 직접 처리해 텍스트를 생성함.

텍스트 전용 프롬프트와 이미지를 포함한 멀티모달 프롬프트 모두 지원함.

ML Kit는 Prompt API 외에도 특정 태스크에 최적화된 다양한 GenAI API를 제공함.

API	기능
Prompt	커스텀 프롬프트 기반 텍스트 생성
Summarization	기사·대화 내용 요약
Proofreading	짧은 메시지 맞춤법 교정
Rewriting	다른 톤·스타일로 문장 재작성
Image Description	이미지 캡션 자동 생성
Speech Recognition	음성을 텍스트로 변환

Prompt API 코드 예시

Kotlin 기준으로 Prompt API를 호출하는 방법은 다음과 같음.

GenerativeModel 객체를 생성한 뒤 generateContent() 메서드에 프롬프트를 전달하면 됨.

응답은 코루틴 기반 비동기로 반환되므로 viewModelScope 또는 suspend 함수 안에서 호출해야 함.

// build.gradle에 ML Kit GenAI 의존성 추가
// implementation("com.google.mlkit:genai-common:1.0.0-alpha1")

val generativeModel = GenerativeModel(
    modelName = "gemini-nano"
)

viewModelScope.launch {
    val response = generativeModel.generateContent(
        "Android 개발에서 온디바이스 AI를 활용하는 방법을 알려줘"
    )
    Log.d("PromptAPI", response.text ?: "응답 없음")
}

실제 앱 적용 시에는 기기 지원 여부를 확인하는 분기 처리와 예외 핸들링을 반드시 추가해야 함.

보안 및 프라이버시 설계

AICore는 처리가 끝난 입출력 데이터를 기기에 저장하지 않음.

모든 네트워크 요청은 Private Compute Services를 경유해 간접 라우팅되며, 앱이 인터넷에 직접 노출되지 않도록 설계되어 있음.

이 구조 덕분에 민감한 정보를 다루는 앱에서도 온디바이스 AI를 안전하게 활용할 수 있음.

보안 설계의 핵심 원칙은 다음과 같음.

• Restricted Package Binding: AICore 접근 가능한 패키지를 엄격히 제한
• Request Isolation: 요청 간 데이터 격리로 정보 유출 차단
• Safety Filters: 모든 출력을 안전 기준으로 사전 검증

지원 기기 및 제약사항

Gemini Nano는 모든 Android 기기에서 동작하는 것이 아님.

현재 지원 기기는 Pixel 8 이상, Samsung Galaxy S24 시리즈 등 고성능 NPU를 탑재한 플래그십 모델에 한정됨.

Prompt API는 알파 단계이므로 프로덕션 앱에 도입하기 전에 안정성과 기기 커버리지를 충분히 검토해야 함.

기기 지원 여부를 런타임에 확인하는 로직을 앱에 포함하는 것을 권장하며, 미지원 기기에서는 클라우드 AI API로 폴백하는 구조가 일반적인 접근 방식임.

활용 분야 및 마무리

AI Core와 ML Kit Prompt API는 Android 앱에 온디바이스 AI를 빠르게 통합할 수 있는 공식 경로임.

오프라인 환경, 프라이버시 민감 서비스, 서버 인프라 비용 절감이 필요한 앱에 특히 유용함.

아직 알파 단계이지만, Google이 공식적으로 지원하는 만큼 향후 안정화되면 모바일 AI 개발의 핵심 도구로 자리잡을 가능성이 높음.

온디바이스 AI 개발에 관심이 있다면 Google의 공식 ML Kit 문서와 Android AICore 가이드를 함께 참고하는 것을 추천함.