ji1kang/generative-ai-reading-list-and-dataset

Reading List for Generative AI

Hi there 👋

• 😄 Homepage: ji1kang.github.io
• 📫 How to reach me: [email protected]

generative-ai-reading-list-and-dataset's Issues

23년 8월 2일: 롤플레이 관련 데이터

1. 롤플레이 텍스트 데이터 (영문, with NSFW)

• Squish42/bluemoon-fandom-1-1-rp-cleaned

2. 나무위키 덤프 데이터 (한글)

• 배포 파일: https://livetrack.notion.site/MDX-e7e1988ddac74ef19b6cdc8a6d41f4b9
• 전처리 파일: https://beok.tistory.com/144

3. Ployglot-ko에서 사용했던 전처리 코드 (pyspark) 기반

• https://github.com/EleutherAI/dps

23년 7월 31일: LLM + Agent

1. LLM + Agent

• RLHF
• AutoGPT
• Prompting Practices
• Reflexion
• Voyager
• Let’s verify step-by-step
• Toolformer
• LMCor
• 링크의 리딩리스트 참고

23년 7월 25일: 프롬프트셋 생성 방법들, 오픈소스 LLM의 맹점

1. Question Decomposition Improves the Faithfulness of Model-Generated Reasoning

• 배경: CoT 개선을 위한 방법 제안. 이전 연구들에서 CoT가 최종 답변을 작성할 때 답변부의 추론단계부터 오류가 날 경우 성능저하 문제 있음.
• 제안: 이를 개선하기 위해 (1) 여러개의 질문으로 쪼갠다음에 답을 내리는 방법, (2) 쪼갠 질문을 여러번 생성하는 방법 (두 방법 모두 질문을 쪼개지만 한번에 쪼개느냐, 나눠서 쪼개느냐가 차이)이 있음
• 코멘트: 성능에서 결국 CoT를 이기지 못함, 테스크도 객관식 문제 맞추기라 다른 테스크에도 적용되는지 확인 필요
• tag: Instruction Prompt

2. EmotionPrompt: Leveraging Psychology for Large Language Models Enhancement via Emotional Stimulus

• 제안: 심리학 이론(Social Identity theory, Social Cognition theory, Cognitive Emotion Regulation theory)을 활용해 만든 1-2문장을 기존 프롬프트에 추가하는 것만으로도 zero-hot, few-shot에서 성능을 향상된다는 논문
• 코멘트: 재밌는 접근 방식으로 한번 해봐도 좋을듯. LLM이 사람행동을 시뮬레이션 하는 논문들이 있다는 걸 고려했을때, 심리학 이론대로 행동한다는 것도 유의미한 얘기인듯.
• tag: Instruction Prompt

3. Multiple character and novel Object based interaction Estimation

• 제안: TRPG 데이터셋을 활용하여 플레이어 플레이 로그를 보고 다음턴에서 (1) 어떤 플레이어가 (2) 어떤 스킬을 할지 예측하는 테스크 제안
• 평가는 분류 테스크처럼 캐릭터와 스킬에 대한 precision, recall, f1을 측정함
• tag: Multi-turn Dataset

4. LLaMA 같은 오픈소스 LLM을 사용 할 수 없는 이유

• 오픈소스 LLM이 크게 발전한다고 해도, 대부분의 경우엔 Cloud, SaaS 형 LLM을 사용하는 것이 이득일 것. 대부분의 IT 회사가 서버를 자체구축해서 사용하지 않고, 클라우드 서비스를 사용하는 것과 유사함.
• 사용량이 일정한 대량의 지속적인 배치 작업에 사용하거나, 임베딩 모델로 사용하는 경우는 자체 구축하는 것이 이득이 있음.

23년 7월 30일

1. DialogStudio: Towards Richest and Most Diverse Unified Dataset Collection and Instruction-Aware Models for Conversational AI

• 대화 데이터셋 허브
• https://github.com/salesforce/DialogStudio

2. Challenges and Applications of Large Language Models

• 작업중인 서베이 논문

3. Skill-it! A Data-Driven Skills Framework for Understanding and Training Language Models

• 여러 데이터셋으로 LM 훈련시 학습 순서가 중요할 수도 있겠다... 하는 논문

23년 8월 7일: Llama2 Guideline, DeepSpeed-Chat, Personalization 관련 서베이

1. Llama2 Guideline
   https://ai.meta.com/llama/responsible-use-guide/

2. DeepSpeed-Chat
   https://github.com/microsoft/DeepSpeed/tree/master/blogs/deepspeed-chat

3. When Large Language Models Meet Personalization: Perspectives of Challenges and Opportunities
   https://arxiv.org/abs/2307.16376

4. PEFT로 LoRA Checkpoint 로드시 size mismatch 해결법
   https://junbuml.ee/lora-ckpt-size-mismatch

23년 7월 26일: 로라 허브

1. LoraHub: Efficient Cross-Task Generalization via Dynamic LoRA Composition

• 허깅페이스 모델허브처럼 LoRA 모델을 갈아끼는 허브를 제안하는듯?
• 오늘 기준으로 아직까지 코드는 업데이트 안됨