홍근이

- Attention: Queries, Keys, Value로 구성됨여기서 Key, Value는 파이썬의 dict라 생각하면 쉬움 {      "Key1": "Value1",      "Key2": "Value2"} Query가 들어올때, 가까운 Key를 찾음.다만, Query는 모두 Vector로 구성되어 있음. Vector이다 보니, Key와 정확히 매칭되기 어려움. 그래서 가까운 Key를 찾게됨. 거리가 짧으면 가깝다고 인식하고, 이때 Cosine Similarity를 사용함  Cos[V1, V2] = V1 ﹒V2 / distance of V1 ﹒ V2 V1=V2, 동일할 경우, Cosine Similarity = 1직각일 경우, Cosine Similarity = 0반대로, 반대 방향이면  Cos..

GAN(Generative Adversarial Network): utilizes computing modelsRLHF(Reinforcement Learning from Human Feedback): requires data and interactions from humanTransformers: Allowed GAIs to understand the context of words in sentence    http://www.kyosu.net/news/articleView.html?idxno=118855