AI 용어사전

경량화는 딥러닝 모델의 단점인 많은 메모리 공간의 필요를 줄이고자 고안된 방법으로서 모델에서 중요한 가중치들만 선별하거나 가중치의 비트값을 줄여 모델의 메모리 사이즈를 줄여주는 방법을 의미합니다.

인코더는 입력 데이터를 압축하고 요약하는데 사용되는 신경망 모델의 한 종류를 의미합니다.

인공신경망은 인간의 뉴런에서 영감을 얻어 이와 비슷한 형태와 방식으로 데이터를 처리하도록 하는 인공지능의 방식을 의미하고 입력층-은닉층-출력층으로 이루어져 있습니다.

AI 학습 알고리즘의 종류중 하나로, 가장 가까운 이웃 샘플을 찾고 이 샘플들의 타깃 값을 평균하여 예측

은닉층은 입력층과 출력층 사이에 존재하는 하나의 층으로써 신경망의 외부에서는 이 계층의 노드들에게 직접 접근할 수 없으며 실질적으로 데이터를 가지고 계산을 하는 층을 의미합니다.

데이터를 효율적으로 다루기 위해 숫자로 변환하는 과정을 말합니다.

정형 데이터는 테이블 형식의 데이터로써 일정한 형식을 갖춘 데이터로, 데이터베이스나 엑셀 시트와 같은 표 형태를 띄는 데이터를 의미합니다.

"Matlab"과 "plotting"의 조합으로 이루어진 단어로, Matlab은 과학 및 엔지니어링 분야에서 널리 사용되는 상용 소프트웨어이며, matplotlib는 Matlab의 그래프 기능을 모방하여 파이썬에서 데이터 시각화를 가능하게 하는 라이브러리입니다.

역전파를 이용해 학습을 진행하게 되면 학습이 진행됨에따라 가충치를 넘겨주며 학습을 진행시키게 되는데 이때 가중치가 점점 증가하다 결국 비정상적으로 증가해버려 학습에 방해가 되어버리는 경우를 의미합니다.

GPGPU는 General-Purpose Computing on Graphics Processing Units의 약어로, 기존의 GPU를 활용하여 컴퓨터 그래픽스 처리를 넘어서 CPU가 전통적으로 담당해온 일반 연산 작업을 수행하는 기술이다.

역전파는 인공 신경망에서 가중치와 편향을 조절해 나가면서 학습을 하는 알고리즘의 하나이며 인공신경망을 출력층부터 입력층까지 오차를 역으로 전파하며 학습해 나가는 방식을 의미합니다.

TTS는 Text-to-Speech의 약자로 텍스트를 음성으로 바꾸어주는 기술을 의미합니다.

전이학습은 기존에 학습된 모델을 불러와 또 다른 데이터셋을 넣어주어 모델을 추가로 학습시켜 모델의 성능을 짧은 시간에 올릴 수 있는 학습방법을 의미합니다.

스스로 새로운 이미지를 생성해내거나 설계도를 만드는 등의 창조성을 지니고 있는 AI(인공지능). 미국 가트너는 제너레이티브 AI에 대해 ‘샘플 데이터로부터 성과물의 디지털 표현을 학습해 독창적이고 현실적인 새로운 성과물을 생성하는 AI’라고 정의하고 있다.

RAG(Retrieval-Augmented Generation)는 생성형 AI 시스템이 외부 지식 저장소를 활용해 보다 정확하고 사용자의 의도에 부합하는 결과를 제공하는 기술 접근 방법이다. 이 방식은 AI가 내부 학습 데이터 만을 사용하지 않고 필요한 지식을 실시간으로 검색하여 통합함으로써 출력의 질을 높이는 방법이다.

CNN(합성곱 신경망)은 딥러닝의 한 종류로, 주로 이미지 인식과 컴퓨터 비전 작업에 사용되는 신경망 구조입니다. CNN은 특히 이미지 처리에 특화되어 있으며, 이미지 내의 패턴과 특징을 자동으로 학습하여 분류, 감지, 분할 등의 작업을 수행할 수 있습니다.

W3스쿨즈(w3schools.com)는 온라인으로 웹 기술을 배우는 교육용 웹 사이트입니다.

LOMO(LOw Memory Optimization)는 LLM을 파인튜닝하는데 필요한 메모리 요구량을 줄여주는 기술이다.

"Scientific Kit for Machine Learning"의 줄임말로, 과학적인 기계 학습을 위한 도구 모음을 의미한다. 파이썬 언어로 작성되었으며, 데이터 분석과 예측 모델링을 위한 다양한 알고리즘과 도구를 제공한다. Scikit-learn은 오픈 소스 프로젝트로 개발되어 누구나 사용하고 기여할 수 있습니다.

제미나이는 Google DeepMind가 개발하고 2023년 12월 7일에 공개한 대규모 언어 모델(LLM)입니다. 이 모델에는 GPT-3.5와 유사한 성능을 제공하는 일반 제미나이(GEMINI) 모델과 GPT-4와 비슷한 수준의 성능을 갖춘 제미나이 어드밴스드(GEMINI ADVANCED) 모델이 있습니다."

클러스터링은 데이터가 주어졌을 때 데이터들의 특징의 따라 서로 비슷한 데이터들끼리 묶어서 분류하는 것을 의미합니다.

"Long Short-Term Memory"의 약자로, 장기적인 의존성을 학습할 수 있는 순환 신경망의 한 종류입니다. LSTM은 시계열 데이터나 문장 등과 같이 순서가 있는 데이터에서 효과적으로 작동하는데, 특히 장기적인 의존성을 가진 데이터에서 기존의 순환 신경망 모델보다 우수한 성능을 보입니다.

PyPI, Python Package Index의 약자입니다. PyPI는 파이썬 패키지 저장소로서, 파이썬 개발자들이 패키지를 공유하고 관리하는 곳입니다. 이 패키지 저장소는 파이썬 커뮤니티에서 널리 사용되며, 다른 사람들이 작성한 패키지를 쉽게 검색하고 설치할 수 있도록 돕습니다.

Hugging Face, Inc.는 기계 학습을 사용하여 애플리케이션을 구축하기 위한 도구를 개발하는 미국 회사입니다.

컴파일러는 프로그래밍 언어로 작성된 소스코드를 기계어로 바꾸어주는 프로그램을 의미합니다.

데이터 마이닝은 대규모의 데이터에서 사용자가 원하는 특정 데이터를 추출하는 것을 의미합니다.

GAN은 Generative Adversarial Network의 약자로 적대적 생성 신경망이라고도 불리며 실제에 가까운 이미지나 사람이 쓴 것과 같은 글 등 여러 가짜 데이터들을 생성할 수 있는 AI기술을 의미합니다.

Python은 웹 애플리케이션, 소프트웨어 개발, 데이터 과학, 기계 학습(ML)에 널리 사용되는 프로그래밍 언어입니다.

색인은 데이터의 특정 열과 행의 값에 대응하는 포인터를 부여하여 데이터 검색시 빠르게 찾아낼 수 있게 하는 데이터 관리 방법을 의미합니다.

CodePen은 온라인 코드 편집기 및 공유 플랫폼으로, HTML, CSS, JavaScript 등의 웹 기술을 사용하여 코드를 작성하고 실행할 수 있습니다. 작성한 코드를 다른 사람들과 공유하고 피드백을 주고받으며, 다른 사람들의 코드를 탐색하여 학습할 수 있습니다. 웹 개발자들 사이에서 널리 사용되며, 창의적인 코드 작성과 협업을 위한 도구로 활용됩니다.

Theano와 Tensorflow 기반의 딥러닝용 고차원 라이브러리입니다.

최적화는 모델이 가장 좋은 성능을 내도록 파라미터 값을 조정하는 과정을 의미합니다.

예측 분석은 과거의 데이터셋을 분석하고 이를 바탕으로 미래의 결과를 예측할 수 있는 하나의 기술을 의미합니다.

주로 수치 계산과 심볼릭 계산을 수행하는 데 사용되는 과학 계산을 위한 오픈 소스 라이브러리입니다. Theano는 2007년에 몬트리올 대학교의 MILA 연구소에서 개발되었으며, Python으로 작성되어 있습니다.

"Recurrent Neural Network"의 약자로, 시퀀스 데이터(Sequence Data)를 처리하는 데 사용되는 신경망입니다. 시퀀스 데이터는 순서가 있는 데이터로, 예를 들어 문장, 음성, 주식 가격 등이 시퀀스 데이터의 예입니다.

ACM은 "Association for Computing Machinery"의 약자로, 컴퓨터 과학 분야에서 세계적으로 유명한 학술 및 전문 기술 기관입니다.

컴퓨터 비전이란 컴퓨터를 이용하여 이미지 또는 동영상에서 데이터를 추출하는 분야 혹은 학문입니다.

데이터 베이스는 구조화된 정보 또는 조직화된 데이터들의 모음을 의미합니다.

API는 Application Programming Interface의 약자로 컴퓨터나 컴퓨터 프로그램 사이의 연결로서 인터페이스를 구축하거나 사용하는 방법을 의미합니다.

시맨틱 검색(Semantic Search)은 단순히 검색어와 문자가 일치하는 콘텐츠를 찾는 게 아니라, 검색어와 문장의 의미를 파악하여 그에 상응하는 콘텐츠를 찾아내는 기술입니다. 사용자의 질문을 분석하고 해석해 검색 결과의 품질을 올리는 기술이다.

파이썬(Python) 기반의 오픈 소스 머신러닝 라이브러리로, 페이스북 인공지능 연구집단에 의해 개발되었습니다.

AGI(인공 일반 지능)는 인공 지능의 한 형태입니다. AGI는 인간과 유사한 수준의 다양한 인지 작업을 수행하고 다양한 도메인에서 학습하고 적용할 수 있는 능력을 갖춘 컴퓨터 시스템을 지칭합니다.

MoE(Mixture of Experts)는 각 단어에서 알 수 있듯이, 여러 '전문가' 모델들의 혼합을 의미한다. 이 방법은 모델안에 '라우터'에서 주어진 문제에 적절한 모델만을 사용해 문제를 해결하는 방법이다. 대규모 언어 모델(Large Language Models, LLM) 같은 머신러닝 시스템이 더 나은 성능을 달성하도록 도와주면서도, 필요한 연산량을 크게 증가시키지 않는 방법으로 2023년 하반기에 처음으로 오픈소스 LLM 모델이 공개 되었다.

파이프 라이닝은 여러 작업을 순차적으로 수행하도록 설계된 컴퓨팅 방식으로, 입출력중에 데이터셋을 처리하는 단계를 병렬로 처리하여 처리시간을 단축하는 방법입니다.

LPU(Language Processing Unit)은 Groq사가 개발한 LLM 추론하는데 특화된 연산 장치이다.

자연어처리는 Natural Language Processing의 약자로 인간의 언어를 컴퓨터와 같은 기계들이 이해하고 활용할 수 있도록 하는 인공지능의 주요 분야중 하나를 의미합니다.

알고리즘은 주어진 문제를 해결하기 위한 단계적인 절차나 방법을 의미합니다.

학생들이 컴퓨터 과학과 프로그래밍을 배울 수 있도록 도와주는 온라인 학습 플랫폼입니다.

강화 학습은 모델이 주변 환경과 여러 상호작용을 하며 경험을 쌓아나가면서 보상을 최대화 하고 비용을 최소화 하기위해 시행착오를 통하여 스스로 학습해 나가는 것을 의미합니다.

LLM을 재 프로그래밍(학습)을 해서 시계열 예측이 가능하게 LLM을 튜닝한 모델이다.

컴퓨터비전은 AI의 한 분야로, 컴퓨터가 이미지, 비디오등의 시각적 데이터들을 이해하고 활용하는 기술들을 의미합니다.

MLOps(Machine Learning Operations)는 기계학습(ML)의 절차와 학습된 모델의 배포를 자동화하고 단순화하는 과정

Pre-Training은 AI가 실무를 하기 전에 많은 데이터를 먼저 학습 하는 단계이다. 이 단계를 통해 AI는 언어와 이미지 같은 데이터에서 기본적인 패턴을 학습하게 됩니다. 나중에 특정 전문적인 업무를 잘 수행하기 위해 기초 지식을 쌓아 올리는 과정이다.

입력층은 들어온 신호를 아무런 연산없이 그대로 다음 노드에 보내주는 다리의 역활을 하는 층을 의미합니다.

파이썬을 기반으로 하여 과학, 분석, 그리고 엔지니어링을 위한 과학(계산)적 컴퓨팅 영역의 여러 기본적인 작업을 위한 라이브러리입니다.

딥페이크는 심층 학습(Deep Learning)과 가짜(Fake)의 결합어로, 인공지능 기술을 활용하여 사람의 목소리, 얼굴, 또는 다른 신체 부위를 현실감 있게 합성하는 기술을 지칭합니다. 이는 비디오, 이미지, 오디오 등 다양한 미디어에서 실제와 구분하기 어려운 가짜 콘텐츠를 생성할 수 있게 해줍니다.

역전파를 이용해 학습을 진행하게 되면 학습이 진행됨에따라 가충치를 넘겨주며 학습을 진행시키게 되는데 이때 이 가중치가 점점 감소하기 시작하며 결국 소실되어버려 학습이 불가능하게 되는것을 의미합니다.

CC(Creative Commons)는 저작권자가 자신의 저작물을 자유롭게 공유할 수 있도록 도와주는 저작권 라이선스입니다.

AI 코스웨어는 인공지능(AI) 기술을 교육에 접목한 학습 소프트웨어를 의미합니다.

(기계∙시스템 등의)미세 조정

ReadWorks는 읽기와 이해력을 향상시키기 위해 고안된, 교육 분야에서 널리 사용되는 온라인 리딩 및 문학 이해 프로그램입니다.

네이버에서 구축한 자연어 생성 모델로, GPT-3와 유사하지만 학습 데이터 중 한국어 비중이 97%에 달하는, 한국어에 최적화한 언어 모델입니다.

AI윤리는 인공지능의 발전으로 인해 인간의 권리와 자유, 사회적 가치와 도덕적 원칙 등을 침해하지 않도록 제약을 두고 AI가 지켜야할 윤리를 말합니다.

컴퓨터가 학습하여 인공지능의 성능을 향상 시키는 기술들을 통틀어서 말하는것을 의미합니다.

비지도학습은 학습 데이터셋을 모델에게 전달해 줄때 정답을 알려주지 않고 학습 데이터셋만 넘겨주어 모델이 직접 판단하게 하는 학습방법을 의미합니다.