[AI모델구동플랫폼] Ollama란? 의미와 설치방법에 대해...

올라마에 오신것을 환영합니다

AI모델을 검색하다보면 항상 등장하는 "O L L M A".

이것의 의미와 사용용도, 설치방법에대해 소개드리겠습니다.

 

난다 고래

갑자기 고래가 등장한  이유는 고래로 유명한 아일랜드의 고어에서 유래된 단어이기때문입니다.

Ollama를 구동시킬때 자주 등장하는 가상화 컨테이너인 Docker 또한 고래가 컨테이너를 옮기는 이미지를 하고있기에 뭔가 억지로 엮자면 관계성이 친밀하다고나 할까요..

Docker

 

  아일랜드 고어인 "Ollamh"는 고대 지혜 (Ollamh)로  알려져 있습니다. 이는 역사적으로 특정 분야의 '현자'나 '전문가', 혹은 높은 수준의 지식을 갖춘 학자를 의미합니다.

 

  따라서 Ollama라는 이름은 단순히 인공지능 모델을 지칭하는 것을 넘어, '지혜'와 '도구'라는 두 가지 측면의 포괄적인 의미를 지닌 단어라 하겠습니다.

 

더불어 귀엽게 생긴 라마

라마, Llama

이런걸 표방했다고 합니다.
 메타(Meta)의 대표적인 오픈소스 모델인 Llama(라마)와 발음이 유사하여, 사용자들이 로컬 환경에서 라마 계열 모델을 쉽게 사용할 수 있도록 돕는 친숙한 도구라는 이미지를 줍니다.

 HP, STR, 경험치 이런것 대신 친숙도 획득량을 증가시켰군요.

 

기술적 의미를 보자면 Local LLM Runner에 해당하며, Ollama는 "내 컴퓨터에서 직접 돌아가는 AI 엔진"을 의미합니다.  

 

 * 내컴퓨터: 인터넷 연결안해도 OK~

 * 직접       : 네이버나 구글 검색따위 필요없이

 * AI엔진 (Artificial Intelligence Engine)    :  맘대로 부려먹을 수 있는 자원

 

 로컬 실행을 기반으로 하기때문에,  클라우드 서버를 거치지 않고 내 PC의 자원을 사용하여 AI를 실행하므로 개인정보 보호와 오프라인 사용이 가능합니다. 

 

 또한  간편하게 여러 AI모델을 실행해 볼 수 있는데, 복잡한 코딩 없이 터미널 명령어 한 줄로 다양한 최신 AI 모델(Llama 3, Gemma, Mistral 등)을 다운로드하고 실행할 수 있게 해주는 패키지 매니저 역할을 합니다. 

 

 따라서 Ollama는 "전문가 수준의 지식(Ollamh)을 내 컴퓨터(Llama 기반 도구)에서  쉽게 사용할 수 있게 해주는 플랫폼"이라는 의미를 담고 있습니다. 

 

 설치하는 방법에 대해 결론부터 말씀드리면, 

"홈페이지를 접속해서 다운로드를 누르면 된다" 입니다.

 홈페이지의 주소는 https://ollama.com/ 이고, 아래처럼 다운로드는 오른편 상단의 Download버튼을 누르면 되겠습니다.

 

 

Ollama 설치 방법은 운영체제에 따라 다음과 같이 매우 간단합니다.

윈도우 환경에서 홈페이지를 들어가면, 현재 OS에 맞추어 해당 아이콘을 이미 선택해주는 친절함이 보입니다.

( 가위 바위 보 게임을 하듯이, 셋중 하나를 선택하시면 되겠습니다.)

< 운영체제별 설치 방법 >
Windows & macOS: Ollama 공식 홈페이지에 접속하여 사용 중인 OS에 맞는 설치 파일을 다운로드하고 실행하세요.
  - Windows: OllamaSetup.exe 실행 후 안내에 따라 설치 (관리자 권한 불필요).
  - macOS: .dmg 파일을 열고 Ollama 앱을 Applications 폴더로 드래그 앤 드롭.
  - Linux: 터미널에서 다음 명령어를 입력하여 한 줄로 설치