Proof of Concept 구현 - 코어닷투데이 김경훈

강사 소개

  • 김경훈: 울산과학대학교 컴퓨터공학과 겸임교수, 코어닷투데이 대표


AI를 시작하게 된 계기

  • 좋아하는 가수의 목소리로 좋아하는 노래를 부르는 AI 구현
  • 원하는 콘텐츠 영상을 AI로 제작(영상 + BGM)


에이전트(Agent)의 개념

공통의 목표를 중심으로 입력과 출력을 반복하는 대화형 방식으로 AI끼리 업무를 수행

예시: ChatDev

  • 실제 사람의 업무와 유사하게 채팅 방식으로 의사소통
  • 허깅페이스(Hugging Face)에서 구현 가능
  • 그루브(Groove): 디자인 → 코딩 → 테스팅 → 다큐멘팅 등 업무 프로세스 자동화


에이전트의 기능

  • 도구: 인터넷 검색, PDF 읽기, 위키피디아 검색, 주식 데이터 활용 등
  • 기억: 단기 메모리와 장기 기억, 이를 어떻게 강화할지 연구
  • 계획: 수행 전략 수립, 피드백 방법 설계


에이전트 연구분야 확장

  • 생산에서 산업 전체 시뮬레이션으로 확장


RAG(검색 증강 생성) 테스트

  • Pinecone 등 벡터DB 활용
  • RAG 임베딩 모델 종류
    • 특정 분야 유사도(Feature Extraction)
    • 문장 유사도(Sentence)
  • GPT 시리즈별 토크나이저 차이
    • GPT-3: 자음/모음 단위
    • GPT-3.5: 형태소 단위
    • GPT-4: 빈도수 기반


OPENAI 토크나이저 활용

  • JSON 파일 업로드 후 RAG 테스트
  • 서로 다른 청크 크기의 RAG 2개로 비교 실험


System Prompts Leaks

  • 유출된 system prompt를 입력해 결과 테스트
  • GPT 직접 사용 vs API 사용 시 차이: system prompt에 따라 달라짐


PoC(Proof of Concept) 제작 과정

  • RAG를 이용해 OpenAI Assistant API 생성
  • Readdy(Lovable)로 프론트 페이지 제작
  • API 주소 연결


워크플로우 자동화 도구

  • n8n: 설계 및 시각화
  • 메이크닷컴(Make.com): 워크플로우 자동화

댓글 쓰기

다음 이전