AI의 접점이 넓을수록
운영 기준은 더 정교해집니다

Google은 9월 10일 Windows 10·11용 Gemini 앱을 전 세계에 출시했습니다. 사용자는 Alt+Space로 현재 작업 위에 Gemini를 열고, 전용 작업 공간에서 다단계 과제를 맡기거나 Gmail·Google Drive의 정보를 활용한 요약, 이미지·동영상 생성을 수행할 수 있습니다. 일부 기능은 구독과 이용 가능 조건이 적용됩니다.

브라우저 밖의 상시 진입점은 전환 비용을 줄이지만, 화면과 연결 계정에 가까워지는 만큼 조직 정책도 세밀해져야 합니다. 업무용 기기 배포 범위, 연결 가능한 Google 앱, 생성 파일의 저장 위치와 감사 기록을 도입 전에 정해야 합니다.

AWS는 9월 11일 Amazon Bedrock AgentCore에서 대화 안에 HTML 위젯을 렌더링하는 MCP Apps 구축 예제를 공개했습니다. 하나의 MCP 서버가 도구와 화면 리소스를 제공하고, 핵심 업무 로직은 Lambda와 DynamoDB에 분리해 ChatGPT·Claude 등 MCP Apps 확장을 지원하는 호스트에서 같은 경험을 제공하는 구조입니다.

예제는 AgentCore Gateway, IAM 실행 역할, WAF, 세션 격리와 자동 확장을 조합합니다. 다만 샘플의 외부 진입은 인증 없음과 IP 허용 목록을 사용하므로, 실제 고객·사내 서비스에는 사용자 인증, 세밀한 권한, 인수값 재검증, 호출 감사와 비용 한도를 별도로 설계해야 합니다.

AWS는 9월 10일 같은 시작 부분을 가진 요청을 동일 인스턴스로 보내 KV 캐시 재사용을 높이는 SageMaker Inference의 접두사 인식 라우팅을 발표했습니다. Llama 3.1 70B와 7대의 ml.p5.48xlarge를 사용한 공급사 시험에서 긴 공통 접두사 워크로드의 P50 첫 토큰 시간이 71~77% 줄고 처리량은 15~16% 늘었습니다.

공식 결과는 vLLM의 접두사 캐시를 켜고 특정 모델·인스턴스·부하로 측정한 값입니다. 짧은 대화형 워크로드의 처리량 향상은 1.7~2.0%였으며, 과부하 시 다른 인스턴스로 우회해 캐시 적중보다 가용성을 우선하는 보호 장치도 포함됩니다.

NVIDIA는 9월 10일 Palantir Foundry의 운영 데이터와 NVIDIA cuOpt, 맞춤 학습한 Nemotron 3.5 Lightning을 연결한 자사 공급망 의사결정 사례를 공개했습니다. 부품·생산지·용량·할당·비정형 신호를 하나의 관리 계층에 모으고, 수학적 최적화가 놓치는 현장 이메일·기상·지정학·공급사 대화 같은 전문가 근거를 모델 학습 기록으로 남깁니다.

개발 벤치마크에서 맞춤 모델의 할당 의사결정 정확도가 86.7%였다는 공급사 결과가 제시됐지만, 특정 내부 과제와 평가 데이터의 결과입니다. 배포 전 시점으로 되돌린 백테스트를 통과해야 하며 모델이 스스로 재학습하지 않고, 최종 판단은 계획 담당자가 검토하는 구조입니다.