스트리밍
Definition
스트리밍은 데이터가 생성되는 실시간 또는 준실시간으로 데이터를 지속적으로 흡수하고 처리하는 것을 의미합니다. 고정된 데이터셋을 처리하는 배치 처리와 달리, 스트 …
Infrastructure
Terms tagged with Infrastructure
주권 AI(Sovereign AI)
Definition
주권 AI는 국가나 조직이 외국 클라우드 제공업체나 독점 기술에 의존하지 않고 인공 지능 시스템을 독립적으로 구축, 배포 및 관리할 수 있는 능력을 설명합니다. …
서버리스
Definition
서버리스 아키텍처를 사용하면 개발자는 서버 인프라를 관리하지 않고도 애플리케이션을 구축하고 실행할 수 있습니다. 클라우드 제공업체는 수요에 따라 리소스를 자동으 …
レートリミティング
Definition
レートリミティングは、AIサービスやAPIの乱用、過負荷、および過度なリソース消費から保護します。スループットを制限することでユーザー間の公平な利用を確保し、システムの安定性を維 …
엔비디아(Nvidia)
Definition
엔비디아는 딥러닝에 필수적인 병렬 컴퓨팅 작업을 가속화하는 그래픽 처리 장치(GPU) 설계로 주로 알려진 AI 산업의 지배적인 힘입니다. 그들의 CUDA 플랫폼 …
ラストマイル
Definition
‘ラストマイル’問題は、既存のインフラストラクチャとの統合、低レイテンシ推論の確保、エッジコンピューティングへの対応など、モデルを生産環境にデプロイする際 …
쿠버네티스
Definition
쿠버네티스(일반적으로 K8s로 약칭됨)는 구글에서 개발한 컨테이너 오케스트레이션 시스템입니다. 이는 클러스터 전체에 걸쳐 애플리케이션 컨테이너의 배포, …
지능형 데이터베이스
Definition
지능형 데이터베이스는 기계 학습과 AI를 활용하여 단순한 저장 및 검색을 넘어선 표준 데이터베이스 기능을 향상시킵니다. 이는 자동으로 쿼리 성능을 최적화하고, …
인공지능 하드웨어
Definition
AI 하드웨어는 머신러닝 워크로드에 필요한 대규모 병렬 처리를 최적화한 특수 컴퓨팅 장치를 의미합니다. 여기에는 일반적인 병렬 처리를 위한 그래픽 처리 장 …
그래픽 처리 장치(GPU)
Definition
GPU는 그래픽 렌더링 작업을 처리하기 위해 처음 개발된 고성능 프로세서입니다. 순차적 직렬 처리에 최적화된 소수의 코어를 가진 CPU와 달리, GPU는 수천 …
피처 스토어
Definition
피처 스토어는 데이터 엔지니어링 팀과 머신러닝 팀 간의 가교 역할을 하며, 배치 훈련과 실시간 추론 모두를 위한 피처의 통합된 뷰를 제공합니다. 이를 통해 일관 …
AI의 환경 영향
Definition
이 용어는 특히 대규모 모델의 훈련 단계와 관련하여 AI 기술과 관련된 상당한 자원 요구 사항을 의미합니다. 여기에는 데이터 센터의 전력 사용, …
엣지 컴퓨팅(Edge Computing)
Definition
엣지 컴퓨팅(Edge Computing)은 사물인터넷(IoT) 장치, 센서 또는 로컬 게이트웨이 등 데이터가 생성되는 근처에서 데이터를 처리함으로써 클라우드 중 …
컴퓨팅 (연산)
Definition
인공지능에서 컴퓨팅은 모델을 학습하고 추론을 수행하는 데 필요한 기본 인프라를 나타냅니다. 여기에는 CPU, GPU, TPU …
회로
Definition
AI 맥락에서 회로는 일반적으로 행렬 연산과 병렬 처리를 가속화하도록 설계된 GPU, TPU 또는 뉴로모픽 칩과 같은 하위 하드웨어 아키텍처를 나타냅니다. 이러 …
CIML 커뮤니티 포털
Definition
CIML 커뮤니티 포털은 계산 지능에 집중하는 학술 및 전문 커뮤니티를 위한 디지털 허브 역할을 합니다. 데이터셋, 사전 훈련된 모델, 연구 논문 등에 대한 접 …
배치 처리(Batch Processing)
Definition
배치 처리는 계산이나 모델 추론을 실행하기 전에 데이터 입력값을 하나의 그룹(배치)으로 집계하는 과정을 포함합니다. 이 접근 방식은 실시간 스트리밍 처리와 대비 …
자가 관리형 네트워킹
Definition
자가 관리형 네트워킹은 자율 컴퓨팅의 원칙을 통신 네트워크에 적용하여 최소한의 인간 개입으로 시스템을 스스로 관리할 수 있도록 합니다. 이러한 네트워크는 AI …
에이전트 하니스
Definition
이는 다중 에이전트 시스템의 백본 역할을 하며, 오케스트레이션, 모니터링 및 에이전트 간 조정을 위한 도구를 제공합니다. 하니스는 에이전트들이 방해받지 않고 효 …
AI 데이터 센터
Definition
AI 데이터 센터는 특히 딥러닝 훈련 및 추론을 위해 인공지능 애플리케이션을 실행하도록 최적화된 물리적 시설입니다. 이러한 센터는 고밀도 서버 랙, …
모델 서빙
Definition
모델 서빙은 정적으로 훈련된 모델을 가져와 확장 가능한 인프라로 감싸는 작업을 포함합니다. 이 인프라는 들어오는 요청을 처리하고 추론(Inference)을 수행 …
도커
Definition
도커는 개발자가 애플리케이션과 모든 의존성을 소프트웨어 개발을 위한 표준화된 단위인 컨테이너로 패키징할 수 있게 합니다. 이러한 컨테이너는 소프트웨어를 환경으로 …
분산 학습
Definition
분산 학습은 여러 GPU나 노드에서 계산을 병렬화하여 모델 수렴 속도를 가속화합니다. 여기에는 각 작업자가 데이터의 하위 집합을 처리하는 데이터 병렬성(data …
대규모(Large-scale)
Definition
대규모는 AI 시스템 내 구성 요소의 규모를 의미하며, 종종 수십억 개의 매개변수, 테라바이트 단위의 학습 데이터, 또는 분산 컴퓨팅 클러스터를 포함합니다. …
보안
Definition
AI 보안은 적대적 공격, 데이터 독성 및 모델 추출과 같은 위협으로부터 머신러닝 모델, 데이터 파이프라인 및 배포 인프라를 보호하기 위한 조치를 포괄합니다. …
로컬(Local)
Definition
인공지능에서 ‘로컬’은 일반적으로 원격 서버에 의존하지 않고 노트북이나 스마트폰 등 사용자의 하드웨어에서 직접 수행되는 작업을 지칭합니다. …
클라우드(Cloud)
Definition
클라우드 컴퓨팅은 AI 워크로드를 위한 확장 가능한 인프라를 제공하며, 개발자가 물리적 데이터 센터를 유지보수하지 않고도 강력한 GPU와 스토리지에 접근할 수 …
API
Definition
API는 소프트웨어 및 애플리케이션을 구축하기 위한 일련의 프로토콜과 도구를 정의합니다. AI에서 API를 사용하면 개발자가 대규모 언어 모델(LLM)이나 이미 …