문과지만 괜찮아

*주의!* 2025년 1월 말부터 시작했던 Project 온 세상이 주식이야 관련 포스팅입니다. 아래의 순서대로 진행될 예정입니다.OutroChrome Extension 마무리기타 Frontend 및 Spring Backend 개발LLM Application - LangGraph 전환 및 API 구현회고마지막 Chrome Extension 관련 포스팅은 아래의 링크에서 확인할 수 있다.Project: 온세 세상이 주식이야 - Chrome Extension 개발 Intro & MVP Project: 온 세상이 주식이야 - Chrome Extension 개발 Intro & MVP현재 계획 중에 있는 Chrome Extension 개발은 아래와 같이 진행될 예정이다.MVP Chrome Extension 개발C..

*주의!* 2025년 1월 말부터 시작했던 Project 온 세상이 주식이야 관련 포스팅입니다. 아래의 순서대로 진행될 예정입니다.OutroChrome Extension 마무리기타 Frontend 및 Spring Backend 개발LLM Application - LangGraph 전환 및 API 구현회고MVP까지만 포스팅을 진행한 후 갑자기 '온 세상이 주식이야'(이하 온세주)를 급작스럽게 마무리하게 됐다. 현재까지 만들어진 결과는 아래와 같다. 그리고 결론적으로 프로젝트 온세주는 실패한 프로젝트다. 구체적인 이유에 대해서는 위의 각 포스팅에서 구현 결과와 함께 언급할 예정이지만 아래와 같은 핵심적인 문제들이 있었다.프로젝트에서의 나의 역할이 프로젝트에서의 나는 Frontend 개발 - Chrome ..

*주의!* 작년에 정리하지 못했던 Project Joing의 문서입니다. 포스팅은 아래의 순서로 진행될 예정입니다.이미지 생성 모델 선정 3 - Flux.1 Schnell vs Flux.1 DevFlux.1 Dev Fine-tuning: LoRa & PEFTFlux.1 Dev Fine-tuning: AI-ToolkitFlux.1 Dev Fine-tuning: 학습데이터 수집 학습 데이터 확보와 학습 계획 Flux.1 Dev Fine-tuning: 학습과정 및 결과 비교마무리 및 회고작년 9월 말에 시작한 프로젝트가 12월 말에 드디어 끝났었고 이 포스팅은 그에 대한 회고다.프로젝트 Joing 초기 목표 달성 결과기능 단위 개발 목표LLM Application: 기획안 평가 및 요약, 피드백 생성목표결과총..

*주의!* 작년에 정리하지 못했던 Project Joing의 문서입니다. 포스팅은 아래의 순서로 진행될 예정입니다.이미지 생성 모델 선정 3 - Flux.1 Schnell vs Flux.1 DevFlux.1 Dev Fine-tuning: LoRa & PEFTFlux.1 Dev Fine-tuning: AI-ToolkitFlux.1 Dev Fine-tuning: 학습데이터 수집 학습 데이터 확보와 학습 계획 Flux.1 Dev Fine-tuning: 학습과정 및 결과 비교마무리 및 회고테스트 학습을 통해 현재 어느 정도 학습데이터와 유사한 결과가 출력되고 있다. 이에 더해서 추가적으로 학습계획에 언급한 내용처럼 Fine-tuning을 통해 결과를 비교해 볼 예정이다. 변경사항이 있다면 학습데이터의 비중의 경..

*주의!* 작년에 정리하지 못했던 Project Joing의 문서입니다. 포스팅은 아래의 순서로 진행될 예정입니다.이미지 생성 모델 선정 3 - Flux.1 Schnell vs Flux.1 DevFlux.1 Dev Fine-tuning: LoRa & PEFTFlux.1 Dev Fine-tuning: AI-ToolkitFlux.1 Dev Fine-tuning: 학습데이터 수집 학습 데이터 확보와 학습 계획 - 2Flux.1 Dev Fine-tuning: 학습과정 및 결과 비교마무리 및 회고학습계획 작성 이후에 Caption 생성과 테스트 학습을 진행했다. Caption 생성Caption 생성의 경우 AI-Toolkit에서도 사용한 Florence-2 모델을 활용했다.간단하게 Florence-2 모델의 경우..

*주의!* 작년에 정리하지 못했던 Project Joing의 문서입니다. 포스팅은 아래의 순서로 진행될 예정입니다.이미지 생성 모델 선정 3 - Flux.1 Schnell vs Flux.1 DevFlux.1 Dev Fine-tuning: LoRa & PEFTFlux.1 Dev Fine-tuning: AI-ToolkitFlux.1 Dev Fine-tuning: 학습데이터 수집 학습 데이터 확보와 학습 계획Flux.1 Dev Fine-tuning: 학습과정 및 결과 비교마무리 및 회고직전 포스팅에서는 AI-Toolkit의 선정 배경이었다면 지금부터는 본격적인 AI-Toolkit을 활용한 Fine-tuning 과정이다. 먼저 AI-Toolkit을 활용한 Fine-tuning을 위해서 아래와 같은 순서로 작업을..

*주의!* 작년에 정리하지 못했던 Project Joing의 문서입니다. 포스팅은 아래의 순서로 진행될 예정입니다.이미지 생성 모델 선정 3 - Flux.1 Schnell vs Flux.1 DevFlux.1 Dev Fine-tuning: LoRa & PEFTFlux.1 Dev Fine-tuning: AI-ToolkitFlux.1 Dev Fine-tuning: 학습데이터 수집 학습 데이터 확보와 학습 계획Flux.1 Dev Fine-tuning: 학습과정 및 결과 비교마무리 및 회고저번 포스팅에서 잠시 언급했듯이 LoRa Fine-tuning을 통해 우리는 기존 모델의 weight를 조정하는 adapter를 만들어야 한다. 구체적인 LoRa가 Adapter를 만드는 과정은 아래의 포스팅을 확인하면 된다. ..

*주의!* 작년에 정리하지 못했던 Project Joing의 문서입니다. 포스팅은 아래의 순서로 진행될 예정입니다.이미지 생성 모델 선정 3 - Flux.1 Schnell vs Flux.1 DevFlux.1 Dev Fine-tuning: LoRa & PEFTFlux.1 Dev Fine-tuning: AI-ToolkitFlux.1 Dev Fine-tuning: 학습데이터 수집 학습 데이터 확보와 학습계획Flux.1 Dev Fine-tuning: 학습 및 결과 비교마무리 및 회고왜 하필 LoRa일까?Image Generation Model을 Fine-tuning 하기 위해서 대표적으로 2가지 방식이 있다. 첫번째로는 DreamBooth이고 두번째가 LoRa 방식이다. (Full Fine-tuning도 있으나..

*주의!* 작년에 정리하지 못했던 Project Joing의 문서입니다. 포스팅은 아래의 순서로 진행될 예정입니다.이미지 생성 모델 선정 3 - Flux.1 Schnell vs Flux.1 DevFlux.1 Dev Fine-tuning: LoRa & PEFTFlux.1 Dev Fine-tuning: AI-ToolkitFlux.1 Dev Fine-tuning: 학습데이터 수집Flux.1 Dev Fine-tuning: 학습 및 결과 비교마무리 및 회고 작년(2024년)에 '이미지 생성 모델 선정 2'를 작성한 내 자신에게 소리치고 싶다. '야 그거 아니야!!!' 문제상황 1: Flux.1 Schnell의 특징Flux.1 Schnell을 사용하기로한 결정적인 이유 'GPU를 상대적으로 적게 사용하고', '생성..

현재 계획 중에 있는 AI 관련 기능 개발은 아래와 같이 진행될 예정이다.MVP AI 기능데이터 전처리기본 AI AgentAPI 서버 전환1차 API 서버 최적화Github: FastAPI Best Practice비동기 처리 2차 AI 기능 고도화데이터 전처리 -> LLM for Data Preprocessing or ChatGPT 파인튜닝기본 AI Agent -> Multi AI AgentAPI 서버 전환 -> Fail Over, Exception Handling, Web socket구현 계획 선정 동기위와 같은 구현 계획을 선정하는 데에 있어서 한 가지의 현실과 그로 인한 수요가 크게 작용했다. 먼저 현실이다.흔히 말하는 SaaS(Software as a Service)에서의 AI 개발은 현재 불가능..

현재 계획 중에 있는 Chrome Extension 개발은 아래와 같이 진행될 예정이다.MVP Chrome Extension 개발Chrome Extension TutorialsChrome Extension - Page Data 수집Chrome Extension to AI & Spring Backend Server수집된 데이터 AI Server로 전송 및 결과 수신반환된 결과에 대한 사용자 선택 Spring Backend Server 전송 및 메인 서비스 페이지로의 이동(Challenge) Chrome Extension 실시간 종목 호가 조회반환된 결과에 따른 실시간 종목을 '더 보기'와 같은 버튼을 통해 조회인증과 백엔드 서버와의 통신을 기준으로 구현 계획을 구성하였다. 그리고 이번 포스팅에서는 Chro..

'온 세상이 주식이야'(온세주)의 핵심은 모의주식거래 시스템이다. 그리고 AI 기능은 해당 시스템에 접근하기 위한 하나의 수단이다. AI 기능의 역할은 아래와 같다. 사용자의 현재 웹페이지의 정보를 바탕으로 평가, 분석하여 유사한 주식종목을 반환한다. 반환된 종목의 경우 사용자의 선택에 따라 저장될 수 있고 저장된 주식은 온세주 웹사이트에서 모의 매매가 가능하다.  해당 기능을 만들기 위해서 아래와 같이 AI 기능 구현을 위한 구성을 아래와 같이 세분화 했다.Chrome Extension - Frontend온세주의 Chrome Extension은 AI 기능의 Frontend로 아래의 기능을 담당한다. 현재 화면의 정보를 AI Server로 전달하고AI Server에서 반환된 정보를 Service Serv..

기존에 진행해 왔던 프로젝트에서의 AI Application들의 특징을 정리해 봤을 때 의도한 기능으로서 잘 작동하는 반면 Fail Over, Exception Handling과 같은 기본적이 부분들에서 부족함이 있었다. 물론 최적화와 고도화를 진행한 프로젝트도 있었으나 실제로 적용하는 대에는 어려움이 있었다. 그래서 이번 프로젝트를 통해서 기존 프로젝트에서의 AI 기능들에서 챙기지 못했던 부분들에 대한 보완을 진행할 예정이다. 먼저 '온 세상이 주식이야'의 시작은 아래와 같다. 인터넷은 정보의 바다라고 한다. 하지만 실제로 대부분의 사용자는 자신이 찾으려고 하는 내용만을 확인하지 관련된 혹은 관련될 수 있는 내용에 대해서는 다들 지나치는 경향이 있다. 그래서 사용자가 사용하는 웹페이지에 대한 정보를 바..

문제 유형: Graph - Floyd Warshall작성 코드첫 번째 시도package KakaoCodingStudy.kakaoNov3;import java.util.*;// First Try BFSpublic class Main3 { static int N; static Map> nodeMap; static int[][] board; static int[][] answer; public static void input(){ Scanner sc = new Scanner(System.in); N = sc.nextInt(); board = new int[N][N]; answer = new int[N][N]; nodeMa..

문제 유형Grpah - BFS작성 코드import java.util.*;public class Main { static int N, M; static Map> nodeMap; static int[] visited; public static void input() { Scanner sc = new Scanner(System.in); // # of nodes N = sc.nextInt(); // # of relationship M = sc.nextInt(); nodeMap = new HashMap(); for (int i = 1; i ()); } for (int i = 0; ..

이전의 포스트에 이어 이번에는 모델 선정의 결과와 선정 배경에 대해 정리했다. 먼저 모델 선정 결과는 'Flux.dev'이다.(schnell의 경우 비용 문제와 용량 문제로 인해 불가능하다.) 먼저 선정에 있어 아래의 내용들을 먼저 각 모델별로 테스트해 봤다. 구체적인 Prompt를 구성한 뒤 생성Prompt 변경에 따른 생성 차이 비교Prompt에 대한 이해도 및 세부적인 지시 사항 이행여부 판단연속생성 및 리소스 네개의 이미지를 순차적으로 생성하기에 그 시간 또한 중요하다리소스가 얼마나 사용되는지는 리소스가 제한적인 상황에서 가장 중요한 부분이라고 할 수 있다. Prompt의 경우 추후에도 신경 써야 하는 부분이기 때문에 프로젝트 생성을 위해 기본적인 구조 구성을 감안하여 진행하였다. PromptPr..

이번 포스트에서는 콘티 생성기에 사용될 모델에 대한 선정과정을 정리해 봤다. Diffusion Model에 대해서는 추가적으로 '도대체 Diffusion Model은 뭘까?'에서 설명할 예정이다. 먼저 현재 가장 많이 쓰이고 있는 모델들을 추려냈다. 처음 사용하다 보니 사용경험들이나 관련 정보가 많아야 한다는 게 첫 번째 기준이었다.  그래서 추려낸 모댈은 Stable Diffusion(이하 SDXL)과 Flux다. 선정기준은 아래와 같았다.콘티를 생성해야하니 스케치의 특징인 핵심 표현 가능 여부역으로 말하자면 쓸데 없이 디테일한 생성은 필요가 없다.비용, 물론 현재 로컬에서 클라우드 저장소로 업데이트를 하는 로직을 구상했으나 중요한 점은 로컬에서도 벅차서는 안된다.현재 사용하고 있는 로컬환경은 Cola..

현재까지 구현한 기능들은 단순하다. 공통적인 로직은 아래와 같다.요청이 들어온다.요청에 대한 평가를 진행한다.텍스트를 평가한다.이미지로 평가한다.평가 결과를 생성한다.그리고 모든 평가 기준들이 Prompt로 들어가 있기 때문에 특별한 기술이 들어가 있는 상태는 아니다.  그렇기 때문에 새로운 나의 개발 능력을 어필할 수 있는 새로운 기능에 대해 고민해봤고 Project Joing이 기획자와 크리에이터를 매칭해 주는 플랫폼이라는 사실을 바탕으로 기획자의 기획안을 시각화해 주는 기능에 대해 생각하게 됐다. 그래서 아래의 과정을 통해서 기획자의 기획안을 시각화해주는 콘티 생서기: Storyboard Generator를 만들기로 했다.  먼저 현재 기준으로 생각중인 작동 로직은 아래와 같다.작성된 기획안 중 콘..

이전의 RecSystem을 위한 데이터 수집의 경우 데이터를 Youtube Data API를 통해 가져온 뒤에 어떤 정보에 대한 수정 및 조작도 하지 않았다. 하지만 기획안의 경우에는 상황이 다르다. 그 어떤 곳에서도 기획안을 찾기가 힘들다.기획안이 있다 하더라도 우리의 서비스에서 진행하는 양식과 다르다.이 두 가지 이유 때문에 어쩔 수 없이 기획안의 경우에는 직접 생성해야 하는데 팀원들과 함께하기엔 팀원들에게 미안하고 직접 하기에는 양이 너무 많고 가장 중요한 점은 기획안의 퀄리티에 차이가 우려됐다. 그래서 위와 같은 문제를 해결하기 위해 어쩔 수 없이 LLM을 활용하여 기획안을 생성하기로 했다. 그래서 아래의 영상의 도움을 받아 기획안 생성 Workflow를 생성했다.노코드캣님의 Youtube 요약생..

일전의 포스트에서 말했듯이 두 가지 문제가 있었다.Selenium을 사용하기에 한 가지의 보조기능을 위해 너무 많은 클라우드 컴퓨팅 리소스가 Chrome Driver에서 사용된다.실제로 이미지 평가가 정확성을 떠나 작동하지 않는 경우가 있다.먼저 Youtube Data API를 활용하여 첫 번째 문제의 경우 확실히 해결을 했다. 그리고 두 번째 문제의 경우 Youtube Data API에서 Thumdnail과 동시에 조회해 올 수 있는 title과 description을 활용하여 text_evaluation을 추가하기로 했다. 그래서 아래와 같은 로직으로 FastAPI로 전환을 마무리했다. Youtube Data API로 최근에 업로드한 영상 4개 조회해당 영상들읠 Title, Description 그리..