AI, Quant 투자 공부

1. A Recipe for Training Large Models source: https://wandb.ai/craiyon/report/reports/Recipe-Training-Large-Models--VmlldzozNjc4MzQz? 2. 5 Lessons Learned from Adding ChatGPT to a Mature Product source: https://blog.trymito.io/5-lessons-learned-from-adding-chatgpt-to-a-mature-product/? 3. Training 175B Parameter Language Models at 1K GPU scale with Alpa and Ray source: https://www.anyscale.com/b..

1. The ChatGPT Debate: Are We Intelligent Enough To Understand ‘Intelligence’ source: https://gabriel-silva.medium.com/the-chatgpt-debate-are-we-intelligent-enough-to-understand-intelligence-1f826e46d174 2. Deep Dive Comparison Between Microsoft’s GPT-4 Copilot And Google’s PaLM source: https://medium.com/mlearning-ai/a-deep-dive-comparison-between-microsofts-gpt-4-copilot-and-google-s-palm-c307..

1. Revolutionizing Natural Language Understanding: GPT-3’s In-Context Learning source: https://medium.com/@yu-joshua/revolutionizing-natural-language-understanding-gpt-3s-in-context-learning-f49c8460ea20 2. Don’t Blame the AI: It’s the Training Data source: https://medium.com/ravenpack/dont-blame-the-ai-it-s-the-training-data-9ddd97df1d9a 다음에 검색 엔진이나 챗봇이 잘못되거나 이상한 답변을 제공할 때 당신을 실망시키는 것은 학습 데이터입니..

1.대한민국 초거대 AI 시대를 열어가기 위한 AI 반도체 기술(2/10) 이동수 이사 (네이버 클라우드 AI) 발표 전체적으로 AI 추론은 메모리 문제가 커질 것으로 전망함 삼성(메모리) + NAVER AI 반도체 공동개발 중 → HyperCLOVA에 최적화된 AI 반도체 솔루션 개발 ChatGPT 서비스의 문제 Sam Altman Said "Average is probably single-digits cents per chat" Transformer는 MM이 전부임 경량화 알고리즘이 중요함 GPT 계열의 특성 입력 처리 (Computation-intensive) 출력 처리 (Memory-intensive) Why? GPT는 Autoregressive LM 이기 때문임 The End of SRAM Sc..