처리량
Definition
AI 엔지니어링에서 처리량은 시스템 용량을 나타내는 중요한 성능 지표입니다. 이는 대규모 언어 모델(LLM)의 경우 초당 토큰 수, 컴퓨터 비전 모델의 경우 초 …
Engineering
Terms tagged with Engineering
SentencePiece
Definition
SentencePiece는 현대 NLP 파이프라인에서 널리 사용되는 텍스트 정규화 및 토큰화를 위한 인기 있는 오픈소스 라이브러리입니다. 이는 단어와 서브워드 …
관측 가능성(Observability)
Definition
AI 엔지니어링에서 관측 가능성은 외부 출력을 분석하여 복잡한 머신러닝 시스템의 내부 상태를 이해하는 능력을 의미합니다. 이는 전통적인 모니터링을 넘어, 시스템 …
모델 레지스트리
Definition
모델 레지스트리는 MLOps의 핵심 구성 요소로, ML 모델을 저장, 버전 관리 및 관리하기 위한 통합 저장소 역할을 합니다. 이를 통해 팀은 모델 메타데이터, …
지식 기반 구성
Definition
이 접근법은 지식베이스 내에서 제약 조건 만족 기법을 활용하여 조립된 제품이 모든 기술적 및 고객 요구사항을 충족하도록 보장합니다. 이를 통해 유효하지 않은 조 …
지능형 제어
Definition
지능형 제어는 퍼지 논리, 신경망, 유전 알고리즘 등 인공지능 방법을 사용하여 전통적인 수학적 모델링으로는 충분하지 않거나 불가능한 시스템을 규제합니다. 이는 …
GraphQL
Definition
Facebook에서 개발한 GraphQL은 API의 데이터를 완전하고 이해하기 쉽게 설명하여 클라이언트가 필요 이상의 데이터 없이 필요한 것만 요청할 수 있는 …
포폴트 테크놀로지(선견지명 기술)
Definition
이 개념은 잠재적 결과를 시뮬레이션하고 능동적으로 적응할 수 있는 전향적인 기능을 갖춘 AI 시스템을 설계하는 것을 포함합니다. 이는 예측 분석, …
실험 추적
Definition
이 관행은 훈련 실행 중 하이퍼파라미터, 데이터셋 버전, 모델 아키텍처 및 성능 지표를 로깅하는 것을 포함합니다. 이를 통해 데이터 과학자들은 서로 다른 실험 …
이글(Eagle)
Definition
이글(Eagle)은 대규모 언어 모델(Large Language Models) 영역에서 특정 아키텍처 및 엔지니어링 프레임워크를 나타내며, 주로 훈련 효율성과 …
클리핑
Definition
딥러닝 엔지니어링에서 클리핑은 일반적으로 그래디언트에 적용되어 폭발하는 그래디언트(Exploding Gradient) 문제를 완화하고 역전파의 안정성을 보장합니 …
캐싱
Definition
AI 엔지니어링에서 캐싱은 최근 또는 빈번하게 쿼리된 결과, 모델 예측값 또는 중간 연산 결과를 빠른 메모리(RAM 등)에 유지하여 성능을 최적화합니다. 이는 …
논증 프레임워크(Argumentation framework)
Definition
논증 프레임워크는 논증, 공격, 방어 간의 관계를 표현하기 위한 수학적 기반을 제공합니다. AI 공학에서는 이러한 프레임워크를 사용하여 시스템이 가중치를 고려하 …
알고리즘 선택
Definition
알고리즘 선택은 주어진 작업을 효율적으로 해결하는 데 가장 적합한 접근 방식을 결정하기 위해 다양한 계산 방법을 평가하는 것을 포함합니다. 이 과정에는 시간 복 …
AI 관측 가능성
Definition
AI 관측 가능성은 전통적인 소프트웨어 모니터링을 확장하여 머신러닝 시스템의 고유한 도전 과제에 대응합니다. 이는 실시간으로 모델 성능, 데이터 드리프트, …
AI 인프라
Definition
AI 인프라는 인공지능 운영에 필요한 기반 기술 스택을 포괄합니다. 여기에는 GPU 및 TPU와 같은 고성능 컴퓨팅 하드웨어, …
테스트
Definition
AI 공학에서의 테스트는 편향성, 오류 및 견고성 문제를 식별하기 위해 다양한 데이터셋에 대해 모델을 엄격하게 평가하는 것을 포함합니다. 여기에는 코드 구성 요 …
SDK(소프트웨어 개발 키트)
Definition
SDK는 특정 플랫폼이나 서비스를 위한 애플리케이션을 개발할 수 있도록 하는 소프트웨어 개발 도구 모음입니다. AI 분야에서 SDK는 사전 구축된 라이브러리, …
모델 컨텍스트 프로토콜 (MCP)
Definition
모델 컨텍스트 프로토콜(MCP)은 AI 애플리케이션이 데이터베이스, API, 파일 시스템 등 다양한 데이터 소스에 균일한 방식으로 연결할 수 있게 하는 오픈 표 …
지연 시간 (Latency)
Definition
지연 시간은 일반적으로 밀리초 단위로 표현되며, AI 서비스의 반응 속도를 측정합니다. 여기에는 추론 시간, 네트워크 전송 지연 및 처리 오버헤드가 포함됩니다. …
상충 관계(트레이드오프)
Definition
AI 및 공학 분야에서 트레이드오프는 모델 정확도와 계산 비용, 혹은 지연 시간과 정밀도처럼 상충되는 목표를 최적화할 때 필요한 균형을 말합니다. 자원은 제한적 …
로봇들
Definition
로봇들은 이동성, 구조 또는 적용 분야에 따라 분류될 수 있는 다양한 기계들의 포괄적인 범주를 포함합니다. 이 카테고리에는 산업용 로봇 팔, 자율 주행 이동 로 …
빌딩(Building)
Definition
빌딩(Building)은 데이터 수집, 모델 선택, 훈련, 검증 및 배포를 포함하여 AI 솔루션을 생성하는 엔드투엔드(end-to-end) 엔지니어링 과정을 의 …