Lomit tech blog

Weights & Biases에서 주최한 Meet-up에 참석하여 공유된 주요 내용과 함께 개인적으로 감명 깊었던 점, 들었던 생각들을 분리하여 기록하고 공유합니다. Meetup 포스터 1. 신뢰할 수 있는 AI를 위한 평가: LLM 평가와 벤치마크 트렌드 주요 내용 요약 첫 번째 세션에서는 AI 씬에서 벤치마크가 어떻게 정복되어 왔는지, 그리고 최근 트렌드는 어떻게 변화하고 있는지 공유되었습니다. 벤치마크 정복 속도: 과거 컴퓨터 비전 분야(MNIST, ImageNet 등) 벤치마크 정복에 약 10년이 걸렸지만, ‘Attention is All you need’ 논문... Read More

최근 Teddy님의 Langchain 특강에 참여하여 RAG(Retrieval-Augmented Generation) 시스템을 개선하고, 최근 주목받는 Agentic 시스템을 구축하는 다양한 기법들에 대해 깊이 있게 배울 수 있었습니다. 특강 시작에서 강조되었던 것처럼, LLM과 RAG 분야에는 새롭고 흥미로운(Fency) 기술들이 끊임없이 등장하지만, 가장 중요한 것은 실제 문제와 환경에 맞는 기술을 신중하게 선택하고 적용하는 것이라는 점이 인상 깊었습니다. 무조건 최신 기술을 따르기보다, 각 방법론의 장단점을 이해하고 상황에 맞게 활용하는 지혜가 필요합니다. 이번 글에서는 특강에서 다루었던 내용 중 RAG 시... Read More

최근 Langgraph Studio 업데이트를 통해 더 이상 macOS에 국한되지 않고 모든 OS 환경에서 구동할 수 있게 되었습니다. 이 글에서는 Langgraph Studio가 왜 필요한지, 주요 기능은 무엇인지 소개하고 스튜디오 설치 및 설정 방법을 자세히 안내합니다. Langgraph Studio, 왜 필요할까요? Langgraph로 만든 앱을 디버깅하는 상황을 가정해 봅시다. 질문이나 입력값을 넣고 출력값을 확인하기 위한 별도의 스크립트나 화면 구성이 필요할 것입니다. 워크플로우 중간의 값을 확인하려면 추가적인 처리 과정이 필요합니다. Langgraph Studio는 이러한 번거로움을 덜어줍니다.... Read More

앤트로픽이 2024년 11월에 MCP(Model Context Protocol)를 발표했을 당시에는 많은 사람들이 Function calling과의 특별한 차이점을 느끼지 못했습니다. 하지만 최근 Cursor IDE에서 MCP 기능을 활용할 수 있게 되면서 관심이 높아지고 있습니다. 이번 글에서는 MCP의 개념, 최근 등장하고 있는 MCP 기능, 그리고 앞으로 기대되는 점들을 이야기해 보겠습니다. Function Calling과 MCP는 어떻게 다른가? MCP를 이해하기 전에, 먼저 Function calling이 어떤 배경에서 등장했으며 무엇인지 알아보겠습니다. Function calling은 그 이름 그대로 ... Read More

Deep Research와 멀티 에이전트 시스템의 최신 동향 Intro 최근 AI 연구 분야에서 가장 주목받고 있는 영역 중 하나는 ‘Deep Research’ LLM 서비스와 멀티 에이전트 시스템입니다. 이 글에서는 ChatGPT, Perplexity, Gemini, Grok 등 우후죽순으로 발표되고 있는 Deep Research LLM 서비스들의 작동 원리와 멀티 에이전트 시스템과의 관계를 심층적으로 탐구해보고자 합니다. 참고: 본 글에서 공유하는 내용 중 일부는 Deepseek를 제외하고는 공개된 자료가 많지 않아 추정에 기반한 분석임을 미리 밝힙니다. DeepResearch 방식... Read More

[Summarize] AlphaFold1 Review 1. 연구 목적 논문에서는 1차원으로 연결된 아미노산 서열의 3차원 구조를 예측하는 것을 목적으로 합니다. 아래 그림(figure 1.)에서 보듯이 “MKWPEPTF” 순서로 구성된 아미노산들은 a. 그림처럼 1차원으로 표현할 수 있으며, 하나의 아미노산(그림에서 원)은 카복시기, 아미노기, 잔기(residue)로 구성되어 있습니다. 서로 다른 아미노산의 잔기들이 가진 전자기적 특성으로 인해 b. 그림과 같이 접히는 성질을 보입니다. figure 1. 원으로 표현되어 있는 것은 하나의 아미노산이며 이러한 아미노산이 연결되어 있는 단백질은 자연에서 1열 ... Read More

배경 DIVE 2024 대회에서 금융 데이터를 활용하여 분석을 진행하였으며, 분석이 일회성에 그치는 것을 넘어, 실제 운영에서 활용할 수 있는 기능으로 개발했습니다. 프로젝트 소개 이 프로젝트는 삼성카드, 롯데카드, 그리고 NICE 신용평가의 데이터를 기반으로 빠르고 효과적인 의사결정을 돕기 위해 설계되었습니다. 사용자가 자연어로 질문을 입력하면, 시스템은 관련 데이터를 찾아 적절한 SQL 쿼리를 생성하고, 그 결과를 시각화하여 사용자에게 전달합니다. 추가적으로, 외부 API를 사용하여 최신 트렌드 정보를 실시간으로 시각화할 수 있습니다. 기간 24.09.28 ~ 24.10.13(2주) 핵심 기능 자연어... Read More

AI challenge solution 상수관로 누수감지 및 분류문제 과제 설명 ✔ 상수관로 진동 센서 데이터로 누수 유형을 분류하는 문제 추진배경 ✔ 환경부에 따르면 전국 수도관의 13%가 30년 이상 된 노후관로이며 적수 등 상수도 품질 저하의 주요 원인임 ✔ 현재 누수 확인 및 유수율 관리는 누수탐사 전문가의 투입을 통해 이루어져 누수 감지 및 분류 자동화를 통해 시간과 비용을 절감할 수 있음 활용 서비스 ✔ 센서 기반 누수 자동 탐지 솔루션 ✔ 수돗물 품질 관리 데이터 설명 Input 상수관로 진동 센서 데이터 (수치) 센서 출력값 데이터에 Fourier Transform을 ... Read More

what is tmux?? SSH 접속하여 프로그램을 구동시키는 황경에서 ssh 접속이 끊어지면 프로그램이 같이 종료되는 것을 경험 해보았을 것이다. 이러한 현상의 대처법으로 nohup이라는 것을 이용하여 해당 프로그램을 백그라운드로 구동시키는 방법이 있지만 tmux를 이용하여 세션을 따로 할당하여 프로그램을 구동시키는 방법도 있다. 이외에 tmux에서 제공하는 멀티윈도우 기능이 터미널 작업에서 유용하게 사용하니 같이 공부해보자 tmux session 생성 tmux에는 session이라는 것이 있다. 세션은 작업들을 하나로 묶은 개념이다. 예제를 보면서 진행한다면 조금 더 이해가 편할 것이다. 터미널 상에 ... Read More

What is MLOps?? ⚠️ 필자의 개인적인 의견이 많은 내용으로 유의바람 MLOps = ML + Dev + Ops 많은 사람들이 MLops에 대한 이해를 ML + Devops라고 정의한다. 이보다 명확한 설명이 Wikipedia에 있다. MLOps or ML Ops is a set of practices that aims to deploy and maintain machine learning models in production reliably and efficiently. 해석하자면 MLOps는 머신 러닝 모델을 안정적이고 효율적으로 배치하고 유지하는 것을 목표로 하는 일련의 관행이다.... Read More

Triton은 Nvidia에서 제공하는 Deploy open-source로 request, response로 제공하는 서비스에 대해 다양한 기능들을 제공한다.(model version 관리, service performance test, service batch scheduler and so on) 본 내용은 Nvidia 측에서 만들어주신 자료 기반으로 작성되었습니다. 해당 내용은 https://github.com/leejinho610/TRT_Triton_HandsOn 를 참고 1. PyTorch model convert model을 deploy 시 model file framework가 다양하다... Read More

Stable Diffusion은 stability.ai에서 출시한 text-to-image model 오픈소스 입니다. Stable Diffusion은 자연어 프롬프트로 부터 단 몇초만에 창의적인 예술품을 생성할 수 있습니다. Stable Diffusion을 왜 Online으로 불러오는 것인가? 제한적인 local 컴퓨터에서 Stable Diffusion 모델이 좋은 품질의 이미지를 생성하기 위해 오랜 시간이 필요합니다. 모델을 온라인 클라우드 서비스에서 실행하게 된다면 사실상 제한없는 컴퓨터 자원을 사용할 수 있게 되어 높은 품질의 결과물을 보다 빠르게 얻을 수 있습니다. Microservice 단위로 모델을... Read More