Mac에서 로컬 LLM을 설치해서 사용해야 할 때 알아야 할 몇 가지

# Mac에서 로컬 LLM을 설치해서 사용해야 할 때 알아야 할 몇 가지

## 1. 왜 로컬 LLM을 사용하는가?

-   ChatGPT API와 로컬 LLM의 차이

-   개인정보와 비용 문제

-   인터넷 없이 사용할 수 있는 장점

-   어떤 사용자에게 적합한가?

## 2. 로컬 AI를 구성하는 4가지 요소

-   LLM(Model)

-   추론 엔진(Inference Engine)

-   Agent

-   UI

``` text

LLM

 ↓

Inference Engine

 ↓

Agent

 ↓

UI

```

## 3. LLM이란 무엇인가?

-   GPT

-   Claude

-   Gemini

-   Llama

-   Qwen

-   Gemma

-   오픈 모델과 API 전용 모델의 차이

## 4. 왜 LLM만 설치해서는 사용할 수 없는가?

-   모델과 실행기의 차이

-   Ollama의 역할

-   vLLM

-   llama.cpp

-   LM Studio

## 5. Ollama는 무엇을 하는 프로그램인가?

-   모델 다운로드

-   모델 실행

-   API 제공

-   여러 모델 관리

-   왜 대부분 Ollama를 사용하는가?

## 6. Open WebUI, Buzz, OpenClaw는 무엇이 다른가?

  프로그램     역할

  ------------ --------------

  Ollama       모델 실행기

  Open WebUI   채팅 UI

  Buzz         Agent 플랫폼

  OpenClaw     Agent + UI

## 7. Agent는 무엇인가?

-   Tool 호출

-   파일 수정

-   터미널 실행

-   여러 LLM 연결

## 8. Harness와 Tool은 무엇인가?

-   Buzz의 Harness

-   OpenClaw의 Tool

-   왜 Agent가 OS를 직접 제어하는 것이 아닌가?

## 9. LLM이 컴퓨터를 조작하는 원리

``` text

사용자

 ↓

Agent

 ↓

LLM

 ↓

Tool / Harness

 ↓

macOS

```

## 10. Mac에서는 어디까지 제어할 수 있을까?

-   Finder

-   Terminal

-   Safari

-   단축어(Shortcuts)

-   AppleScript

-   Accessibility

-   왜 어떤 앱은 제어하기 어려운가

## 11. 로컬 AI도 보안이 중요한 이유

-   허용 폴더

-   허용 명령

-   승인(Approval)

-   Sandbox

-   Docker

-   왜 AI가 마음대로 파일을 삭제하지 못하는가

## 12. 어떤 LLM을 선택해야 할까?

  목적              추천

  ----------------- -------

  자연스러운 대화   Gemma

  코딩              Qwen

  범용              Llama

## 13. 하나의 LLM만 사용할 필요는 없다

-   대화 → Gemma

-   코딩 → Qwen

-   리뷰 → Gemma

-   여러 LLM을 조합하는 방법

## 14. 앞으로의 AI는 '여러 LLM을 조율하는 Agent'가 된다

-   Model Routing

-   Multi-Agent

 

## 15. 맺으며

로컬 LLM을 설치한다는 것은 단순히 AI 하나를 설치하는 것이 아니라,

-   모델(LLM)

-   실행기(Ollama)

-   Agent(Buzz/OpenClaw)

-   Tool(Harness)

-   UI

가 함께 동작하는 하나의 생태계를 구축하는 것이다.