SKN Family AI 3기 회고록 16주 차

• 회고(Retrospective) 목적

회고는 우리가 진행하고 있는 방향을 점검하고, 이후 진행할 방향성을 확인하기 위함이다.
또한, 스스로 느꼈던 감정, 했던 일을 통해 Action Item에 대한 아이디어를 생각하는 것이다

• 회고에 대한 마음가짐
  • 모두에서 이야기할까 말까? 하던 것을 회고를 통해 이야기를 하면서 개선하기
  • 이전 회고를 참고하여 현재 진행하는 프로젝트에 대한 생각과 감정을 정리하기
    • "특정 상황에 내가 어떤 감정이 들었는가?"라는 본인을 되돌아보고 그 당시 어떤 감정을 느꼈는지
    • 만약, 그때에는 많이 힘들었다면 어떤 상황이 힘들었는지, 어떻게 했으면 달라졌는지
    • 문제가 되었던 부분을 비판적으로 분석하고, 어떻게 개선할  수 있는지 
  • 제시되었던 아이디어, 내가 가진 아이디어에 대해 열린 시선으로 바라보기
  • 수동적으로(하라고 해서 한다) 하는 것은 좋지 않으니 적극적으로 하기
  • 가장 중요한 것으로 회고를 꾸준히 하기

---

SKN Family AI 3기 회고록 16주 차 (5F 회고 방법론)

 

• Facts : 사실. 무슨 일이 있었는가?

날짜	Facts	비고
10.21	1. Open Source LLM 2. Opens Source LLM vs Closed Source LLM 3. LLaMa(Large Language Model Meta AI) 4. Llama 사용전 라이센스 적용 5. LLaMA 파생형 모델
10.22	1. TRL - Transformer Reinforcement Learning 2. SFTTrainer 3. Deepspeed
10.23	1. Accelerate 2. Quantization
10.24	1. Prompt란? 2. Prompt-Based Learning 3. GPT-3 (Language Models are Few-Shot Learners) 4. Prompt Engineering 5. PEFT - Parameter-Efficient Fine-Tuning 6. RLHF - Reinforcement Learning from Human Feedback 7. PPO (Proximal Policy Optimization) 알고리즘
10.25	1. RLHF - Reinforcement Learning from Human Feedback 복습 2. PPO (Proximal Policy Optimization) 알고리즘 복습 3. DPO - Direct Preference Optimization 4. LangChain

 

 

• Feeling : 느낀 점, 감정. 어떤 느낌이 들었는가?
  • 이전에 있던 것을 보완하기 위해 나온 파생 알고리즘들이라 이론적인 부분이 어려웠고 실제 코드 자체는 쉬워서 적용하는 것에 문제는 없었습니다.
  • 코드나 전체 워크플로우가 이해되지 않는다면 이전에 배운 과정들을 다시 복습하는 것도 좋다고 생각됩니다.

 

• Finding : 배운 점, 인사이트. 어떤 것을 기억하고 싶은가?
  • AI의 파인튜닝에 관한 부분들은 난이도 면에선 어렵지 않았지만, 어떻게 활용할지는 생각해볼 법한 문제라 생각합니다.
  • 또한, 이쯤되면 코딩보단 논리적인 알고리즘 구축이 더 많이 요구되어서 기존의 SI와 다른 부분이라 생각됩니다.
• Future Action : 향후 액션 아이템. 앞으로 무엇을 할 것인지?
  • 졸업 이후 다른 개발자분들과 프로젝트를 진행하기로 약속이 잡혀있으니 이후의 일을 위해 계속해서 배워봅시다.

• Feedback : 피드백. Future Action에서 정한 액션 아이템을 실행하고 어떤 피드백을 받았는가?
  
  • 수료 이후 꾸준히 할 명분을 챙겼으니 헤이해지지 않도록 조심합니다.

---

수료 이후에 목표가 생긴 점은 매우 좋다고 생각합니다.

 

다른 분들과는 원래 친분이 있었던지라 다양한 방면에서 배울 부분이 많다고 생각됩니다.

 

취업도 하고, 개별 프로젝트도 해보고 다양한 부분에서 활발한 활동을 지속해봅시다.