반갑습니다
·
💻 Study
시험범위 시험 범위 | NotionMade with Notion, the all-in-one connected workspace with publishing capabilities.www.notion.so 과목 정리 AI 과목 정리 | Notion목차www.notion.so
티스토리 LaTeX 적용하는 아주 쉬운 방법
·
카테고리 없음
업데이트된 hELLO 스킨을 새로 적용하면서, 기존의 LaTex 설정이 사라졌다.매번 찾아보기 귀찮으므로 LaTeX 적용방법을 정리해보겠다. 티스토리 블로그에 LaTeX(수식)을 작성할 수 있도록 Javasciprt로 작성된 KaTeX를 적용한다.KaTeX는 MathJax보다 빠른 렌더링을 제공하여 웹 페이지 로딩 시 거의 바로 수식을 출력할 수 있다. 티스토리 스킨 편집스킨 편집에서 다음 코드를 `` 바로 위에 복사 붙여넣기 한다. 그 아래에 두번째 코드를 복사 붙여넣기 한다.   KaTex 공식문서에서 브라우저에서의 사용법을 참고할 수 있다. KaTeX – The fastest math typesetting library for the webSimple API, no dependencies – yet..
Attention is All You Need: Transformer와 LLM의 발전 양상
·
📓 Papers
Transformer 모델: 기존 인코더-디코더 모델을 발전시킨 모델로, RNN 기반 인코더-디코더 모델보다 학습이 빠르고 성능이 좋다.병렬화RNN 기반 인코더-디코더: 입력으로 들어오는 텍스트의 단어들을 순차적으로 계산하여 인코딩.Transformer: 행렬곱으로 한 번에 병렬 처리. Positional encoding(RNN 사용 X) 순차 입력을 받지 않음 → 위치/순서 정보를 제공해줘야 한다.Positional encoding: 인코더 및 디코더의 입력 값마다 상대적인 위치 정보를 더하는 기술.Transformer는 단순 비트 인코딩이 아니라 Sin, Cos 함수를 사용한 positional encoding을 사용한다.장점Sin, Cos 함수) Positional encoding 값이 항상 -1에..
From Local to Global: A Graph RAG Approach to Query-Focused Summarization
·
📓 Papers
RAG (Retrieval-Augmented Generation): Query가 주어졌을 때, 데이터베이스에서 관련된 정보를 검색하여 프롬프트에 contxt를 추가.장점Hallucination 최소화Fine-tuning 대비 저렴한 비용으로 관련 정보 검색 가능한계전체 corpus에 대한 추상적 요약이 어려움Context window 한계로 인한 정보 손실 (”lost in the middle” 현상)Graph RAG (GraphDB + RAG)데이터를 지식 그래프 구조로 변환 → 그래프 검색을 활용한 RAG더보기Knowledge graph 지식 그래프:Knowledges의 구조화된 표현Node: entities or conceptsEdge: relationships between entities Mic..
Nginx - Flask 프록시 방법 (Feat. Gunicorn)
·
💻 Study/웹
Flask와 Nginx, Gunicorn을 함께 사용하는 이유는 주로 성능, 안정성, 보안 등의 측면에서 애플리케이션을 더 효율적으로 운영하기 위해서이다. 각각의 역할을 이해하면, 왜 이 조합이 자주 사용되는지 명확해진다. FlaskPython으로 작성된 마이크로 웹 프레임워크역할: 애플리케이션의 비즈니스 로직과 API 엔드포인트 처리.제한 사항Flask의 내장 개발 서버는 단일 스레드로 동작하며, 고부하 상황에서 성능이 제한적.다중 클라이언트 요청을 효율적으로 처리하지 못함.프로덕션 환경에서의 고성능 처리를 위해 설계되지는 않음. GunicornWSGI(Web Server Gateway Interface) 서버역할Flask와 같은 WSGI 애플리케이션을 효율적으로 운영하기 위해 사용.다중 워커를 사용하..
2024 하반기 목표
·
🚩 목표 & 회고
🐌 열심히 살자🧩 게으르지 말자   🌼 2024 하반기 목표  🐱‍💻  9월◻ 사이드 프로젝트 README 작성 ☑  Google Cloud AI Study Jam ☑ 세미나 발표 ☑ AI by Hand (Workbook) 끝내기 이번에야 말로   🐱‍👓  10월◻ 사이드 프로젝트 README 작성☑ LLM 공부 (논문 2개 읽음) 🐱‍🚀 11월◻ 사이드 프로젝트 README 작성◻  🐱‍🐉 12월  😊 기타 목표 ◻ 12월 홍콩여행