세상의 모든 레트로 MAKERS

우선 LLaMA에 대해 알아보겠습니다.LLaMA는 메타의 오픈 웨이트(Open-Weights)에서 만든 언어모델로, Large Language Model Meta AI의 약자입니다. 사용하려는 llama.cpp의 로그를 먼저 보시겠습니다.이미지를 조금 분리해서 보면,네, 그렇습니다. LLaMA가 C/C++과 만난 것을 의미합니다.유식하게 표현하면 "LLM inference in C/C++"라고 할 수 있습니다. C/C++로 구현된 LLaMA라고 생각하면 되겠네요.일반적으로 AI를 구현하는데는 Python을 기반으로, Tensor Flow랄지 PyTorch 같은 라이브러리를 사용하여 구현되어 있어, 상대적으로 둔할 수 밖에 없습니다.아무래도 C/C++기반으로 가볍게 동작하는 것보다는 느리겠죠. 빠른 GP..