반응형 전체 글1822 변검공연 변검 - 나무위키 https://share.google/sboPShCCNrNeZQRRf 변검变脸 / biànliǎn 중국 간자체를 번자로 바꾸면 變臉이다. 臉은 "뺨 검"이라는 한자이지만 중국어 에서는 일namu.wiki 2025. 8. 22. QKV 1. QKV란?Transformer의 핵심은 Self-Attention인데, 이때 입력 토큰(단어 벡터)을 세 가지로 변환합니다:Query(Q) : "내가 어떤 정보를 찾고 싶은가?"를 표현Key(K) : "내가 어떤 정보를 가지고 있는가?"를 표현Value(V) : "실제로 전달할 정보"즉,Query–Key의 내적(dot product) → "이 토큰이 다른 토큰과 얼마나 관련 있는지" 계산그 결과(Attention score)를 Value에 가중합 → 새로운 토큰 표현 생성---2. 용도(1) 문맥 이해각 단어가 문장 안에서 어떤 단어와 관련이 깊은지 파악예: “그는 사과를 먹었다” → “그”와 “먹었다”가 강하게 연결(2) 정보 검색 (LLM에서 Query 역할)LLM 내부에서는 **Query 토큰.. 2025. 8. 20. 파인튜닝(Fine-tuning) 이미 만들어진 AI 모델(특히 딥러닝 모델, LLM 등)을 새로운 목적에 맞게 조금 더 학습시키는 과정---1. 기본 개념대형 모델(예: GPT, BERT, ResNet)은 이미 방대한 데이터로 학습되어 있음 → 일반적인 언어·이미지 이해 능력 보유.하지만 특정 분야(예: 의료, 법률, 기업 내부 문서 등)에 특화시키려면 추가 학습 필요.이때 기존 모델의 가중치(Weights)를 그대로 두고, 일부만 업데이트하거나 전체를 다시 미세 조정하는 방식으로 학습 → 이를 Fine-tuning이라고 함.---2. 파인튜닝 방식1. Full Fine-tuning모델 전체 파라미터를 다시 학습데이터가 많고 자원이 충분할 때 가능비용이 큼2. 부분 파인튜닝(파라미터 효율적 학습, PEFT)대표 기법: LoRA (Low.. 2025. 8. 20. ALI, LLM, RAG 용어 1. ALI (Adversarially Learned Inference)정의: **생성 모델(GAN)**의 아이디어를 확장한 프레임워크로, 잠재공간(latent space)과 데이터 공간 간의 양방향 매핑을 학습하는 방식.등장 배경: 일반적인 GAN은 데이터 → 잠재공간 방향(인코딩)을 직접 배우지 못하는 한계가 있었음. ALI는 이걸 극복.작동 원리:Generator: 잠재 벡터 z → 데이터 x 생성Encoder: 데이터 x → 잠재 벡터 z 추론Discriminator: (x, z) 쌍이 진짜인지 가짜인지 판별활용: 이미지 생성, representation learning, semi-supervised learning 등✅ 쉽게 말하면: “데이터 ↔ 잠재 공간”을 동시에 학습하는 양방향 GAN---.. 2025. 8. 20. 결함보고서 양식 기록일자, 기업명인증범위, 구분(ISMS, ISMS-P), 결함유형, 인증범위명, 기관 확인자심사원명관계부서관련조항관련근거 : 인증기준, 내부규정운영현황 및 결함내역 : 운영현황, 결함내역, 조치사항근거목록 2025. 8. 19. AI&데이터 스페셜리스트 서지영 기술사 적성따라 직군 바꾸기: MS 서지영 AI&데이터 스페셜리스트 | 요즘IT https://share.google/mn1FUscorCBegYm13 적성따라 직군 바꾸기: MS 서지영 AI&데이터 스페셜리스트 | 요즘IT이번에 소개할 인물, 서지영 님은 개발자로 시작해 DBA를 거쳐 AI&데이터 스페셜리스트로 커리어를 쌓아 나가고 있습니다. 무려 두 번의 직군 전환을 성공적으로 이뤄낸 건데요. 물론 쉽지는 않았yozm.wishket.com 2025. 8. 19. 이전 1 2 3 4 ··· 304 다음 반응형
