[실패] AWS Lambda 환경에서 Ollama를 이용한 코드 리뷰 봇 만들기

( 추가 )Lamda의 이미지로 만드는 것은 용량이 크고 실행시간이 길어 안 될 것이라 판단,GPU를 사용할 수 있는 ECS + Fargate를 사용해보기로 했습니다. (사용 예정)후에 구축하게 된다면 구축기로 다시 찾아오겠습니다.   기존에 홈서버에 구축 되어있던 ollama-github-code-review-bot을 구동할 때 ollama가 구동되면서 홈서버(미니PC)가 매우 뜨거워져서 따로 서버가 필요할 것 같다고 생각했다. Lambda로 동작 가능하다면 거의 무료의 가격으로 만들 수 있을 것 같아 쉽게 보고 도전했으나...Ollama를 사용했을 때 아래와 같은 부분이 필요하다.Ollama가 구동 될 서버가 필요함해당 서버로 POST 요청을 보내서 AI에게 지시1번 서버, 2번 서버 이렇게 두 개가..

• format_list_bulleted 프로젝트 과정
• · 2024. 9. 3.
• textsms

Argo CD 결과를 slack 알람으로 전송하기

1. 배경프로젝트를 진행하는 도중 Argo CD의 결과를 모니터링할 수 있도록 SNS로 보낼 수 있도록 만들어야 했는데, 직장에서 사용하는 해당 프로젝트 특성상 Slack으로 알람을 주기로 했다.2. 도입 순서1. Argo CD 파드 만들기argocd의 공식 문서를 참고 하여 만들게 된다면 자동으로 리소스들이 생성되는 것을 볼 수 있다.kubectl apply -n argocd -f https://raw.githubusercontent.com/argoproj/argo-cd/stable/manifests/install.yaml그리고 외부에서 접속할 수 있도록 설정을 해주어야 하는데, 이 경우 AWS 로드 밸런서를 사용하기로 했다. argocd를 설치하면 기본적으로 argocd-server 서비스는 Clus..

• format_list_bulleted CloudWave 3기
• · 2024. 8. 18.
• textsms

[3] 프롬프트 엔지니어링 교과서 feat. AI 코드 리뷰에 적용하기

진행 중인 프로젝트에 LLM을 이용한 코드 리뷰봇을 만들기 위해 프롬프트 엔지니어링이 필요 해서 찾아본 책이다. 기본적인 프롬프트 엔지니어링 12기법에 대해 알 수 있었고, 각 기법마다 제공되는 프롬프트의 예시들이 있어 어떻게 적용하면 될지 참고 할 수 있어 좋았다. 문제 풀이용 GPT에 대한 결과도 다루고 있어, 어떤 프롬프트를 써야 저런 결과가 나올지 고민 해 볼 수 있어 유용했다. 그렇기 때문에 프롬프트 엔지니어링에 관심이 있는 사람이라면 가볍고 빠르게 습득할 수 있어 편하게 읽을 수 있는 책이다. 해당 책을 읽고 프롬프트를 고민 해보았고, GPT에게 적용해 본 결과는 다음과 같다.(실제로는 ollama3에 적용할 예정이라 결과 값은 좀 다를 것이다.)

• format_list_bulleted 오늘 읽은 책
• · 2024. 8. 5.
• textsms

[잔디일기] 랜덤 값 만들기

처음에 랜덤 값을 만드는 방법으로 Random 클래스와 함께 seed 값으로 시스템의 현재 시간을 사용하였습니다.private int makeRewardPoint() { long seed = System.currentTimeMillis(); Random random = new Random(seed); return random.nextInt(10) + 1;} 하지만 프로젝트를 리팩토링하면서 고민해보게 된 2가지로 인해 알아보다가 ThreadLocalRandom클래스로 변경하게 되었습니다.메서드가 동작할 때마다 새로운 Random 클래스를 재생성 해도 괜찮은가?동일한 시간에 여러 개의 요청이 동시에 들어온다면?물론, '잔디일기'의 서비스의 경우 일기를 작성 했을 때 랜덤 값으로 포인트가 적립..

• format_list_bulleted 프로젝트 과정
• · 2024. 7. 28.
• textsms

깃허브 Organigation 레포지토리 복구하기

사건의 발단진행 중이던 프로젝트의 브랜치 이름들이 올바르게 생성되어 있지 않아서 수정하려고 했다.하지만 모든 브랜치들이 수정되고 삭제되는 과정으로인해 로컬에 있던 브랜치와 원격 브랜치들이 맞지 않았다.결국 로컬에 있는 코드를 삭제하고 다시 clone을 하는 과정을 진행했다. 하지만 mac book을 오랜만에 켜서 그런진 모르겠지만... Intelij에서 GitHub 연동이 되지 않아 난감했다.이러면 안됐지만 ..!그냥 Fork도 다시 해보자는 생각에 레포지토리를 삭제 해버렸다. 그런데.....삭제하고 생각해보니 왜 레포지토리 앞에 내 이름이 아닌 Organization이 들어있지? 라는 생각이 슥 스쳤다.아 큰일 났다. X 됐다. 이미 일은 저질러진 것이었음을...이때 백엔드 팀 회의를 하면서 작업하고 ..

• format_list_bulleted 프로젝트 과정
• · 2024. 7. 23.
• textsms

쿠버네티스의 구성과 관련 용어

그림과 실습으로 배우는 도커 & 쿠버네티스를 읽고 중요하다고 생각한 부분을 정리한 글입니다.  쿠버네티스의 클러스터는 마스터 노드와 워커 노드라는 두 가지 노드로 구성 된다.마스터 노드에서 컨테이너를 실행하지는 않으며 워커 노드에서 실행되는 컨테이너를 관리하는 역할을 한다.마스터 노드에는 컨테이너 등의 상태를 관리하기 위해 `etcd`라는 데이터베이스가 설치된다. CNI(가상 네트워크 드라이버)ex. 플란넬, 칼리코, AWS VPC CNI 등 마스터 노드(컨트롤 플레인)의 구성항목내용kube-apiserver외부와 통신하는 프로세스, kubectl로부터 명령을 전달받아 실행한다.kube-controller-manager컨트롤러를 통합 관리, 실행한다.kube-scheduler파드를 워커 노드에 할당한다...

• format_list_bulleted 알아두면 좋은 개발 지식
• · 2024. 7. 17.
• textsms