dykw 님의 블로그

핵심 요약"특성 공학은 AI 성능을 좌우하는 숨은 무기"입니다.동일한 알고리즘이라도 특성 공학의 질에 따라 정확도가 60% → 95%로 급상승할 수 있습니다.Feature(특성)는 AI 모델의 입력 데이터이며, 특성 선택(Selection)은 중요한 변수만 고르고, 특성 추출(Extraction)은 새로운 변수를 조합해 만듭니다.정규화/표준화로 데이터 범위를 조정하고, PCA로 100차원 데이터를 2차원으로 압축하면서도 정보 손실을 최소화합니다.Kaggle 대회 우승팀의 80%가 "알고리즘보다 특성 공학이 중요하다"고 답한 이유를 완벽하게 설명합니다.📍 목차Feature란 무엇인가?특성 선택(Feature Selection)과 특성 추출(Feature Extraction)데이터 정규화(Normaliza..

핵심 요약"Netflix에서 드라마 추천, YouTube에서 영상 추천, Spotify에서 음악 추천받는 이유를 알고 싶나요?"추천 시스템(Recommendation System)은 사용자의 과거 행동과 선호를 분석해 미래에 좋아할 콘텐츠를 예측하는 AI입니다.Netflix의 추천 덕분에 사용자는 평균 40% 시간 단축 (검색 시간 감소), YouTube는 추천 비디오 재생 시간이 전체의 80% 차지하며, Spotify는 개인화 플레이리스트로 광고 없는 가입자 50% 증가를 이루었습니다.협업 필터링(사용자 간 유사성), 콘텐츠 기반 필터링(아이템 특성), 딥러닝 하이브리드 3가지 방식이 있는데, Netflix는 이 3가지를 모두 결합하여 정확도를 극대화합니다행렬 분해(Matrix Factorization..

핵심 요약"인간의 언어를 기계가 이해하기 시작했습니다."자연어 처리(Natural Language Processing, NLP)는 인간 언어를 컴퓨터가 이해하고 생성하는 AI 분야입니다.1950년대 "기계가 문장을 읽을 수 있을까?"라는 물음에서 시작된 이 분야는, 이제 감정 분석(정확도 96%), 기계 번역(BLEU 40+), 요약(ROUGE 60%), 챗봇(만족도 95%)에서 인간 수준을 넘었습니다.토큰화라는 단순한 기술이 AI 언어 이해의 첫 걸음인데, "Hello world" 같은 단순한 문장을 ["Hello", "world"]로 쪼개는 것부터 시작되며, 이 토큰들이 BERT, GPT 같은 거대 언어 모델의 입력이 됩니다ChatGPT와 Gemini가 가능한 이유는 모두 "토큰화 → 임베딩 → Se..

핵심 요약"AI가 눈을 뜨기 시작했습니다."컴퓨터 비전(Computer Vision)은 이미지와 영상에서 의미 있는 정보를 추출하는 AI 분야입니다.1950년대 "기계가 사진을 "읽을 수 있을까?"라는 물음에서 시작된 이 분야는, 이제 이미지 분류(정확도 99%+), 객체 탐지(YOLO 65fps), 얼굴 인식(정확도 99.5%), 의료 영상 분석(진단 정확도 78% - 전문의 수준)에서 인간을 뛰어넘었습니다.COCO 데이터셋의 객체 탐지 챌린지에서 초기(2015) 정확도 75%에서 현재(2025) 정확도 90%+ 달성했고, Google의 이미지 검색, Apple의 Face ID, Tesla의 자율주행은 모두 컴퓨터 비전의 산물입니다. 딥러닝이 핵심인데, CNN(합성곱 신경망)이 기초가 되어 이미지에서 ..

핵심 요약"어느 것이 더 좋은가?"는 잘못된 질문입니다. BERT와 GPT는 다른 목표의 두 거인입니다.BERT는 양방향으로 모든 문맥을 본다 (문맥 "이해"), GPT는 과거만 본다 (순차 "생성"). 같은 Transformer 기반이지만, BERT는 인코더 구조로 이해에 특화되어 검색(Google 검색), 분류(감정 분석 96.3%), 질의응답(F1 93%)에서 초인적 성능을 보이고, GPT는 디코더 구조로 생성에 특화되어 코딩(90% 정확도), 창작, 번역에서 인간 수준을 넘었습니다이 두 모델이 영감을 주어 RoBERTa(81.2 GLUE), ALBERT(효율 70%), ELECTRA(차별화된 학습), BART(인코더-디코더 균형), T5(모든 작업 통합)이 탄생했습니다.2025년 AI 트렌드는 "..

핵심 요약"다음 단어를 맞혀봐"라는 게임이 AI를 바꿨습니다.GPT(Generative Pre-trained Transformer)는 BERT의 인코더와 달리 디코더만 사용하여 왼쪽에서 오른쪽으로 한 단어씩 생성하는 자기회귀 모델입니다.2018년 OpenAI의 GPT-1은 1억 1천만 파라미터로 시작해 조용히 시작했지만, 2020년 GPT-3는 1,750억 파라미터로 점프하면서 "엑스레이를 보고 병명 진단", "법률 계약서 작성", "시 창작" 같은 무섭도록 똑똑한 일들을 해냈습니다.GPT-3는 코드 생성(GitHub Copilot)에서 90% 정확도, 의료 보고서 작성에서 95% 정확도를 달성했고, 2023년 ChatGPT 출시 후 100일 만에 1억 명 사용자 돌파는 역사적 기록입니다.GPT-4는 1..

핵심 요약"양방향"이라는 단어가 AI를 바꿨습니다.BERT(Bidirectional Encoder Representations from Transformers)는 2018년 구글이 발표한 패러다임 쉬프트입니다.기존 GPT는 "The animal didn't cross the street because it was tired"라는 문장에서 "it"의 의미를 80%만 이해했습니다 (왼쪽 문맥만 봐서).하지만 BERT는 앞뒤 모든 문맥을 동시에 봐서 99% 이해합니다. 마스킹된 언어 모델(MLM)이라는 혁신적인 학습 기법으로, 인터넷 전체(340억 단어)에서 15% 단어를 임의로 숨기고 "너는 이 단어가 무엇인지 맞혀봐"라고 학습시키니, 자연스럽게 양방향 이해가 가능해졌습니다.현재 Google 검색 엔진에 B..

핵심 요약"Attention is all you need" - 2017년 구글 논문의 이 한 문장이 AI 역사를 바꿨습니다.Transformer는 RNN의 순차 처리 제약을 행렬 곱셈으로 해결하여 10배 빠른 학습을 가능하게 했고, Self-Attention으로 문장 전체를 한 번에 본다는 혁신을 이뤘습니다.기존 RNN/LSTM은 "나는 [학교에 10년 전에 다닌] 학생이다"에서 [괄호] 부분을 50%만 기억했지만, Transformer는 99% 기억합니다.Multi-Head Attention은 8개 이상의 헤드로 문법, 의미, 감정 등을 동시에 학습하여 정보 손실을 90% 감소시켰습니다.현재 ChatGPT, BERT, GPT-4, Claude, Gemini 모두 Transformer를 기반으로 하며, ..

핵심 요약"CNN과 RNN을 결합하면 1+1=3이 된다"는 말이 있습니다.CNN-LSTM 하이브리드 모델은 CNN의 강점(공간 정보 추출)과 LSTM의 강점(시간 정보 기억)을 동시에 활용하여 영상 분류, 주가 예측, 의료 영상 분석에서 단일 모델보다 30% 이상 성능 향상을 달성합니다.CNN이 프레임에서 특징을 추출(얼굴, 차선, 객체)하면, LSTM은 시간 순서를 이해하여 "프레임 A 다음 B가 나오면 액션"을 인식합니다.2012년 AlexNet부터 시작된 단일 모델 시대는 끝났고, 2020년 이후 모든 최신 AI는 하이브리드 구조입니다. 동영상 행동 인식(97% 정확도), 의료 영상 분석, 기후 예측, deepfake 탐지까지 CNN-LSTM이 인간 수준을 넘어섰습니다.📍 목차CNN-LSTM 하이..

핵심 요약"사람은 문맥을 이해하지만, 일반 신경망은 단어 하나만 본다"는 말이 있습니다.순환 신경망(RNN, Recurrent Neural Network)은 은닉 상태(Hidden State)를 통해 과거 정보를 기억하며, "오늘 날씨가 좋다"라는 문장에서 "좋다"가 무엇을 가리키는지 "날씨"를 기억하여 이해합니다.하지만 RNN은 장기 의존성 문제로 10단어 전 정보를 잊어버리며, 기울기 소실로 학습이 불가능해집니다.LSTM(Long Short-Term Memory)은 3가지 게이트(망각, 입력, 출력)로 100단어 전 정보도 99% 유지하고, GRU(Gated Recurrent Unit)는 LSTM을 2개 게이트로 단순화하여 30% 빠른 학습을 달성합니다.현재 주가 예측(MSE 3% 오차), 기계 번역..