Learn by articles: GPT-3

요샌 너무나도 많은 기술들이 쏟아져 나오고 있어서 뭐 하나를 깊이 공부하기가 어렵다.

공부하다보면 또 한참 뒤쳐져 있고 공부하다보면 또 한참 뒤쳐져 있고.

 

하드웨어 기반 기술의 경우 막대한 자금과 제한된 정보력이 장벽이었다면, 소프트웨어의 경우엔 막대하게 넘쳐나는 정보와 급변하는 스피드가 장벽이 아닌다 생각된다.

 

기술과 마켓의 중심이 소프트웨어를 넘어 AI를 넘보고 있는 지금의 시대에서는 대기업 연구원으로 소속되어 있음에도 불구하고 이런 스피드를 따라가는게 쉽지 않다. 아니, 대기업 연구원이기에 따라갈 수 없는 영역이 되어버린 것 같다.

 

AI 기술로 미래를 보장받은 회사에서 일하는게 아니라면, 당장 밥벌이가 되지 않는 기술이라면, 정말 배고픈 상황에서 혼자 열심히 공부하는 수 밖에 없는게 현실인 듯하다.

 

그러기에 가끔 혼자 기사나 논문을 읽으며 셀프디벨롭을 하고있다.

 

GPT-3를 공부하기에 좋은 글들

GPT-3를 분석하고 공부하면서 블로그를 쓰고 있는 사람이다.

velog.io/@nawnoes/GPT-3-%EB%8F%84%EC%9E%85

사전학습과 파인튜닝 패러다임을 넘어서

논문 리뷰: GPT-3의 language model 분석

littlefoxdiary.tistory.com/44

[논문리뷰] GPT3 - Language Models are Few-Shot Learners

GPT-2, BERT 실습

GPT-2로 실습해보기

keep-steady.tistory.com/6?category=702926

GPT-2 (Generative Pre-Training 2)

 

BERT 실습 해보기

beomi.github.io/2020/02/26/Train-BERT-from-scratch-on-colab-TPU-Tensorflow-ver/

Colab에서 TPU로 BERT 처음부터 학습시키기 - Tensorflow/Google ver. - Beomi's Tech blog

GPT-3 응용 사례

작문하는 GPT-3

www.gwern.net/GPT-3#what-benchmarks-miss-demos

GPT-3 Creative Fiction

코딩 인터뷰

medium.com/@xpl/a-coding-interview-with-gpt-3-ca301acf4f26

A Coding Interview With GPT-3

여러 응용 모음

littlefoxdiary.tistory.com/45

GPT-3, 이런 것도 된다고?

GPT 응용이 꾸준히 올라오고 있다.

나도 사용 신청했는데, 왜 아직 소식이 없지?

gptcrush.com/

GPT Crush – Demos of OpenAI's GPT

기타 AI 활용

Creator 저작 도구

runwayml.com/

Machine Learning for creators

Object detection/segmentation

2~30여년 전 이런 거 개발하면서 돈 벌어 먹던 시절이 있었는데, 개발에도 복고 열풍이 부는건가?

makeml.app/

Create Object Detection CoreML and TFLite ML models without code

Data modeling을 쉽게 만들어 주는 서비스

www.obviously.ai/

Data Science without Code | Obviously AI

AI 초기 시장에서의 비즈니스 모델을 잘 만들고 계신 분들. 이 회사 주식을 좀 사볼까?

www.superannotate.com/

The fastest annotation platform for training your AI

OpenAI!!!

openai.com/blog/image-gpt/#samples

Image GPT