코딩유치원

Chatbox AI는 대형 언어 모델(LLM)을 로컬 환경에서 쉽게 실행하고 관리할 수 있도록 도와주는 그래픽 사용자 인터페이스(GUI) 도구입니다. 이 도구는 기술적 경험이 부족한 사용자도 쉽게 AI 모델을 활용할 수 있도록 설계되었습니다. 이 글에서는 Chatbox AI의 주요 기능, 설치 방법, 활용법을 알아보겠습니다.

1. Chatbox AI란?

Chatbox AI는 로컬 및 클라우드 기반 AI 모델을 직관적인 사용자 인터페이스를 통해 실행하고 관리할 수 있도록 도와주는 도구입니다. 터미널 명령어 대신 클릭만으로 다양한 AI 모델을 활용할 수 있습니다.

주요 특징

1. 로컬 모델 실행:
   • OpenAI, Hugging Face, Ollama와 같은 다양한 플랫폼의 AI 모델을 지원합니다.
   • 인터넷 연결 없이도 AI 모델 실행 가능.
2. 사용자 친화적 인터페이스:
   • 복잡한 명령어 없이 클릭만으로 모델 실행 및 관리.
   • 초보자도 쉽게 사용할 수 있는 직관적인 UI 제공.
3. 다중 모델 관리:
   • 여러 모델을 동시에 실행하고 전환할 수 있습니다.
   • 프로젝트별로 다른 AI 모델을 선택해 활용 가능.
4. 대화 기록 관리:
   • AI와의 대화를 자동으로 기록하고 저장.
   • 기록된 대화를 내보내거나 복원할 수 있는 기능 포함.
5. 설정 커스터마이징:
   • 모델의 주요 파라미터(온도, 토큰 수 등)를 GUI에서 조정 가능.

2. Chatbox AI 설치하기

2.1. 시스템 요구 사항

• 운영 체제: Windows, MacOS, Linux 지원
• RAM: 최소 8GB 이상
• 디스크 공간: 최소 10GB 이상 (모델에 따라 다를 수 있음)

2.2. 설치 방법

Step1. Chatbox AI 다운로드

• Chatbox AI 홈페이지를 방문해 운영 체제에 맞는 설치 파일을 다운로드합니다.

Step2. 설치 진행

• 다운로드한 파일을 실행하고 화면에 표시되는 안내를 따라 설치를 완료합니다.

Step3. 프로그램 실행

• 설치가 완료되면 바탕화면 또는 애플리케이션 메뉴에서 "Chatbox AI"를 실행합니다. 만약 위에서 "Chatbox 실행하기" 옵션을 체크하고 설치를 마치셨다면 자동으로 Chatbox 창이 나타나게 됩니다.

3. Chatbox AI 활용하기

3.1. AI 모델 설정하기

Step1. 모델 추가

• 처음 Chatbox AI를 실행하면 "AI 모델 공급자를 선택하고 구성하세요."라는 안내 상자가 나오게 됩니다. 여기서 Chatbox AI Cloud는 해당 앱에서 제공하는 유료 버전의 AI 모델이므로, 로컬 AI 모델을 사용하기 위해서는 아래의 "내 자체 API 키 / 로컬 모델 사용" 버튼을 눌러주시면 됩니다.

• 원하는API 방식을 선택합니다. 저의 경우엔 지난 시간에 Ollama를 통해서 설치했던 "Deepseek-r1" 모델을 사용하기 위해서 "Ollama API"를 선택해 주겠습니다.
  

Step2. Ollama의 로컬 모델 실행

• 지난 시간 Ollama를 통해서 설치한 deepseek-r1:8b 모델을 선택합니다. 저의 경우에는 컴퓨터 사양이 감당 가능한 선에서 14b 모델을 설치해서 사용해보았습니다.

• 입력 창에 질문을 입력하고 Enter 키를 눌러 AI와 대화할 수 있습니다. 무슨 모델이냐고 물어보니 자신은 DeepSeek-R1-Lite-Preview라고 대답하네요.

• 이후에 다른 API를 사용하고 싶으시다면 좌측 하단의 "설정" 탭을 클릭하시면 다시 API를 설정가능하며, "컨텍스트 내 최대 메시지 수"와 "온도"와 같은 옵션을 손쉽게 설정 가능합니다. 참고로 온도(Teperature)의 경우 값이 높을수록 창의적이고 다양한 답을 합니다.

이번 시간에는 Chatbox AI라는 앱을 활용해서 LLM을 쉽게 활용하고 관리하는 방법에 대해서 알아 보았습니다. 터미널 명령어에 익숙하지 않으신 코딩 초보분들도 GUI 환경에서 간단히 AI 모델을 실행하고, 대화 기록을 관리하며, 다양한 설정을 커스터마이징할 수 있을거예요.

Ollama는 로컬에서 대형 언어 모델(LLM)을 실행할 수 있도록 도와주는 도구입니다. 이번 시간에는 초보자도 쉽게 Ollama를 설치하고 실행할 수 있도록 단계별로 설명드려 보겠습니다.

1. Ollama란?

Ollama는 로컬 환경에서 AI 모델을 실행할 수 있도록 도와주는 프로그램으로, 인터넷 연결 없이도 AI 기능을 활용할 수 있습니다. MacOS, Windows, Linux에서 사용할 수 있으며, 다양한 AI 모델을 쉽게 다운로드하고 실행할 수 있습니다. Ollama 이외에도 LM Studio, GPT4All, Msty 등의 더 사용자 친화적인 프로그램들이 있지만 Ollama는 회사에서도 무료로 사용할 수 있는 라이선스라는 것이 장점이라고 할 수 있습니다.

2. Ollama 설치하기

Step1. Ollama 공식 웹사이트에 접속한 후, Download 버튼을 클릭합니다.

Step2. "Download for Windows" 버튼을 클릭하여 설치 파일을 다운로드합니다. 

Step3. 다운로드한 파일을 실행하시고 "Install" 버튼을 클릭해주세요.

Step4. 설치가 완료되면 설치창이 사라지고 화면 우측 하단에 "Ollama is running" 이라는 팝업창이 출력됩니다.

Step5. "명령 프롬프트(CMD)"를 열고 다음 명령어를 입력하여 설치 여부를 확인합니다.

ollama

아래 명령어로 설치된 ollama 버전을 확인할 수 있습니다. ('25.01.30 기준 0.5.7 버전)

ollama -v

3. Ollama AI 모델 선택해서 설치하기

Ollama 페이지에서 "Models" 탭을 클릭해보면 Ollama를 통해 사용가능한 Local AI 모델들이 있습니다. 최근 중국에서 저비용으로 ChatGPT o1 수준의 로컬 모델을 발표해서 많은 화제가 되었던 deepseek 모델도 보입니다.

참고로 각 모델의 하단에 파란색 사각형으로 표시된 1.5b, 7b, 8b, 14b, 32b, 70b, 671b는 AI 모델의 파라미터 개수를 뜻합니다. 쉽게 말해서 모델의 크기라고 생각하시면 되는데 보통 10b 정도가 일반적인 컴퓨터에서 실행되면서도 의미 있는 대답을 받을 수 있는 파라미터 크기라고 보시면 되겠습니다. 다만 일반적인 컴퓨터가 다소 주관적인 표현이므로 적당한 파라미터부터 설치해서 사용해보시면서 내 컴퓨터에서 돌아갈 수 있는 가장 좋은 모델을 찾아서 사용하시는 것을 추천드립니다.

Step1. "Models" 탭을 클릭한 후, 마음에 드는 모델을 클릭해주세요. 저의 경우에는 가장 성능이 좋다고 소문난 deepseek-r1 모델을 선택했습니다.

Step2. 적당한 파라미터를 선택한 후, 우측의 ollama 명령을 복사하기 버튼을 클릭해서 복사해주세요. (저는 8b를 선택하였습니다.)

ollama pull deepseek-r1:8b

Step4. 모델 다운로드가 완료되면 다음 명령어를 입력하여 실행할 수 있습니다. 저의 경우 설치를 run으로 이미 진행했기 때문에 아래와 같이 "success"라는 설치 완료를 알리는 메시지 후에 바로 ">>> Send a message (/? for help)"라는 메시지가 나타났습니다.

ollama run deepseek-r1:8b

이제 Ollama가 AI 모델을 실행하며, 터미널에서 AI와 직접 대화할 수 있습니다. 질문을 입력하고 Enter를 눌러 AI의 응답을 받아볼 수 있습니다.

> What is DeepSeek-R1?

4. Ollama 추가 명령어

1) 실행 중인 모델을 종료하려면 Ctrl + C를 누릅니다.

2) 모델 목록을 확인하려면 "ollama list"를 입력합니다.

ollama list

이번 시간에는 Ollama를 성공적으로 설치하고, AI 모델을 실행하는 방법을 익혀보았습니다. 이를 통해 로컬 환경에서 강력한 AI 모델을 활용하여 생산성을 높이고, 데이터를 보호하면서 AI를 사용할 수 있습니다. 다음 시간에는 터미널이 익숙하지 않은 사용자분들을 위해서 Ollama UI 또는 Chatbox AI 같은 GUI 프로그램을 통해서 로컬 AI 모델을 사용하는 방법에 대해서 알아보겠습니다.

안녕하세요, 왕초보 코린이를 위한 코딩유치원에 오신 것을 환영합니다.

오늘은 생성형 AI와 코딩 공부에 대한 내용을 정리해보려합니다.

요즘은 ChatGPT와 같은 생성형 AI 덕분에 코딩 공부가 이전보다 훨씬 쉬워졌다는 생각이 많이 듭니다. 과거에는 코딩을 배우려면 두꺼운 책을 사거나, 인터넷에서 자료를 찾고, 막히는 부분은 커뮤니티에 질문하는 데 많은 시간이 들었죠.

하지만 이제는 AI가 여러분의 선생님, 동료, 디버깅 전문가가 되어서 우리의 많은 어려움을 뚝닥뚝닥 해결해줍니다.  저는 주로 파이썬을 위주로 배워 왔습니다. 특히 파이썬을 활용한 업무 자동화를 현업에 적용해서 정말 많은 도움을 받았죠. 하지만 이제는 AI의 도움을 받아 웹 개발, 그리고 생성형 AI를 접목한 업무 자동화 같은 더 넓은 영역으로 도전해 보려고 합니다.

1. 생성형 AI란?

생성형 AI는 텍스트, 이미지, 코드 등 다양한 콘텐츠를 생성해주는 인공지능 기술입니다. 이 기술은 사용자가 입력한 요청이나 질문을 분석해 적절한 답변을 제공하거나, 새로운 내용을 만들어내는 데 도움을 줍니다.

예를 들어, "자바스크립트로 숫자 합계를 계산하는 코드를 작성해줘"라고 요청하면, 생성형 AI가 실제 코드를 작성해 주거나 예제를 보여줄 수 있답니다.

특히 생성형 AI가 코딩에 접목되어서 코딩 생산성이 아주 크게 올라갔습니다. VSCODE에서 사용할 수 있는 깃허브 코파일럿, 그리고 요즘 핫한 Cursor AI를 활용하면 AI가 코드를 "알잘딱깔센"으로 제안해준답니다. 이제 사람은 이 코드를 이해하고 적절히 선택만 하면 되는 시대가 온 것이죠. 

2. 생성형 AI로 코딩 공부하기

AI는 코딩 공부의 모든 과정에서 여러분을 도와줄 수 있습니다.

(1) 기초 문법 배우기

어떤 프로그래밍 언어를 배우고 싶으신가요? 기초 문법을 익힐 때는 언어 전체를 빠르게 훑어보고 기본적인 구조와 사용법을 이해하는 것이 중요합니다.

예를 들어, 파이썬을 배우기로 했다면 아래와 같은 단계로 진행해보세요:

1.  파이썬의 전반적인 개념과 간단한 예제를 유튜브 무료 강의를 통해 가볍게 학습합니다. (나도코딩 파이썬 추천)
2. 기본 문법을 빠르게 훑어본 뒤, 간단한 프로젝트를 시작합니다. 예를 들어, "계산기 만들기"와 같은 작은 목표를 설정합니다.
3. 프로젝트를 진행하며 모르는 문법이나 사용법이 나올 때마다 AI에게 질문합니다.

이 방식은 지루한 기초 문법 학습 과정에서 코딩에 흥미를 잃는 것을 방지하고 실제 프로젝트 실행을 통해서 흥미와 동기부여를 계속 가져갈 수 있다는 장점이 있습니다.

(2) 코드 이해 및 디버깅

작성한 코드가 왜 작동하지 않는지 고민 중이라면 AI에게 질문하세요! 코드의 오류를 분석하고, 수정 방향을 제안해줍니다.

// 예제: 오류가 있는 코드
let numbers = [1, 2, 3];
console.log(number[0]); // AI가 'number'를 'numbers'로 수정하라고 제안

(3) 실습 과제 및 프로젝트 아이디어

"초보자를 위한 간단한 프로젝트 아이디어를 추천해줘"라고 물어보면, AI가 여러분의 수준에 맞는 프로젝트를 추천하거나 필요한 코드를 작성하는 데 도움을 줄 수 있습니다.

• 간단한 계산기: 덧셈, 뺄셈, 곱셈, 나눗셈 기능이 있는 계산기 제작.
• 할 일 목록(To-Do List): 사용자가 할 일을 추가, 삭제, 완료 표시할 수 있는 간단한 앱.
• 랜덤 명언 생성기: 버튼을 누를 때마다 명언이 랜덤으로 출력되는 프로그램.

3. 생성형 AI의 장점

생성형 AI의 장점을 요약해보자면 아래와 같습니다.

1. 즉각적인 답변: 궁금한 점이 생기면 바로 질문할 수 있어요.
2. 맞춤형 학습: 여러분의 실력에 맞는 예제와 설명을 제공합니다.
3. 무제한 연습: AI와 함께 끝없이 연습하고 코드를 실험할 수 있습니다.
4. 다양한 언어 지원: 파이썬, 자바스크립트, C++, HTML 등 어떤 언어든 AI가 도와줍니다.

4. 주의할 점

생성형 AI는 할루시네이션(쉽게 말해서 거짓말)이라는 치명적인 단점을 가지고 있습니다.

• 생성된 코드가 항상 완벽하거나 효율적이지 않을 수 있습니다. 따라서 AI가 제공한 답변이나 코드를 이해하려고 노력하고, 개선하는 과정을 거쳐야 합니다.
• AI는 여러분의 질문에 따라 답변의 품질이 달라질 수 있으니, 구체적이고 명확하게 질문하는 연습도 필요합니다.

5. 함께 공부해요!

생성형 AI는 단순히 질문에 답하는 것을 넘어, 코딩 공부에 새로운 가능성을 열어줍니다. 여러분이 초보라 해도 괜찮습니다. AI는 언제나 인내심을 가지고 여러분의 동료가 되어줄 테니까요.

저 역시 코딩 여정을 계속하면서 새로운 영역에 도전하고 있습니다. 여러분도 저와 함께 AI의 도움을 받아 더 넓은 개발 세계로 발을 내디뎌 보지 않으시겠어요? 함께 배우고, 성장하고, 멋진 프로젝트를 만들어 나가길 기대합니다.

"시작이 반이다"라는 말처럼, 오늘 AI와 함께 첫 코드를 작성하며 한 걸음을 내디뎌 보세요. 코딩의 즐거움을 느끼고 성장하는 여러분의 모습을 기대합니다! 🚀