Can Longer Sequences Help Take the Next Leap in AI?
source: https://ai.stanford.edu/blog/longer-sequences-next-leap-ai/
Transformer의 long sequence 지원
- sequence 길이를 늘리는 것은 성능과 품질 이유로 인해
'Daily-Trend-Review' 카테고리의 다른 글
| 2023/07/21(2) : In-Context Learning, Emergent Abilities, (0) | 2023.07.21 |
|---|---|
| 2023/07/21: MQA, LLaMA2, Flashattention2 (0) | 2023.07.21 |
| 2023/07/16: LLM에 대한 실용적인 소개 등 (0) | 2023.07.16 |
| 2023/07/11: GPT-4, Longnet, knowledge base (0) | 2023.07.11 |
| 2023/07/10: An Infinite Memory ChatGPT? (0) | 2023.07.10 |