2025 Spring AI 밋업 후기

https://2025-ksug-spring-ai-meetup.vercel.app/

 

 

 

오랜만에 기술 컨퍼런스를 다녀왔다. 한국 스프링 사용자 모임에서 Spring AI에 대한 밋업이 진행되었다. Spring AI는 스프링 생태계에서 AI 기능을 애플리케이션에 통합할 수 있도록 설계된 프레임워크다. Spring AI 공식 문서에 따르면 이 프로젝트의 핵심 목적은 엔터프라이즈 데이터와 API를 AI 모델과 연결하는 것이다.

At its core, Spring AI addresses the fundamental challenge of AI integration: Connecting your enterprise Data and APIs with the AI Models. ㅡ Spring AI

 

 

나는 AI에 대해 이제 막 찾아보는 단계라 Spring AI의 사용 경험은 아예 없다. 참여를 신청한 계기는 단순하다. 오랜만에 컨퍼런스에 가서 다른 사람들의 발표를 듣고 싶었다. 물론 스프링 진영의 AI라는 점도 흥미를 이끈 요소 중 하나이다.

 

 

---

발표 메모

발표는 총 3개가 있었다. 아래는 각 발표를 들으면서 메모한 내용이다. Spring AI 기술에 대한 이야기를 오늘 처음 접해봤기 때문에 일부 내용을 다르게 이해했을 수도 있다.

 

발표 1. 컨트리뷰트로 배운 Spring AI

오픈소스 컨트리뷰터로서 Spring AI에 기여했던 경험들을 공유하는 발표였다. 스프링 AI에 대해 간단히 소개하며 어떻게 Spring AI에 많은 기여를 하게 되었는지, 어떤 경험을 하고 어떤 것을 느꼈는지 등을 공유 주셨다.

 

• AI 모델: 방대한 정보 데이터 세트로, 학습된 컴퓨터 프로그램 또는 알고리즘
• Spring AI: 다양한 AI 서비스를 제공하는 플랫폼들을 쉽게 통합할 수 있게 한다.
• Spring AI에 기여했던 경험
  • 이슈로 올라온 내용들에 대해 궁금증을 갖고, 코드를 까보다 기여까지 하게 됨
  • 다른 사람의 PR을 보고, 다른 곳에도 적용되면 좋을 것 같은 내용을 적용시킴
• AI 사용하면서 느낀 점
  • 돈이 많으면 간단하게 해결되는 경우가 많다
  • RAG가 생각보다 잘 동작하지 않아서 잘 쓰려면 다양한 방법을 연구해야 한다
  • 아직까지는 쓰는 사람보다 만드는 사람이 더 많은 것 같다
  • 등등

 

발표 2. Spring AI Playgorund 오픈소스 소개

Spring AI를 잘 활용할 수 있도록 Spring AI Playground라는 오픈소스를 직접 개발하고 운영하고 계신 분이었다. Spring AI의 기술 자체에 대한 개념 설명이라기보다는 AI 생태계에 대한 개인적인 생각이나 개발하신 오픈소스를 만들고 실제로 사용하는 모습까지 보여주셨다.

• AI 개발은 왜 python으로만 할까?
  • AI를 빠르고 쉽게 실험하고 학습할만한 도구가 python 쪽에는 발전이 되어있음
  • java 쪽은 개발 도구가 많지 않다고 느낌
• AI는 단순한 LLM 호출을 벗어나 Agent로 변화해가고 있다.
  • gpt로 찾아본 내용) AI Agent는 질문에 대해 LLM이 스스로 생각하고 행동한다. 결과를 바탕으로 다시 판단하는 과정을 거친다. Reason+Act라고 해서 ReAct 패턴과도 자주 언급되는데 LLM의 능력으로 동적 처리가 가능한, 능동적인 작업 수행이 가능한 것으로 이해했다.
• Spring AI Playground
  • https://github.com/JM-Lab/spring-ai-playground
  • java & Spring 개발자가 AI 기능을 쉽고 빠르게 실험&학습할 수 있게 만든 오픈소스
  • 완전한 로컬 실행 환경을 구축하기 위해 Ollama 활용

GitHub - JM-Lab/spring-ai-playground: A self-hosted web UI that simplifies AI experimentation and testing for Java developers. I

 

발표 3. Spring AI로 다양한 LLM 모델을 일관되게 서빙하는 방법

실제로 Spring AI를 실무에서 활용하시는 분이 코드와 함께 어떤 식으로 활용하는지, 어떤 이유 때문에 Spring AI를 선택했는지 등을 소개해주셨다. 예시를 정말 쉽게 잘 정리해와 주셔서 이해가 쉬웠는데 예시 내용까지 메모하지는 못했다.

• sionic ai
  • open gateway
  • 애플리케이션 개발자들이 뒷단의 AI가 어떻게 동작하는지 자세한 일들을 신경 쓰지 않아도 되게끔
  • 다양한 벤더(=LLM 공급사)의 LLM 들의 스펙 차이를 잘 변환하고, 쉽게 유지보수할 수 있어야 한다는 고민이 존재
• Spring AI는 랭체인보다 일관된 인터페이스로 제공되어서 선택하였다.
• 특정 모델에서 장애가 발생하면 폴백 로직으로 후순위 모델을 선택하게끔 만들었다.
  • 폴백이 Spring AI에서 제공되는 기능은 아님
  • 추상화가 잘 되어있다 보니 위 로직 작성이 간단한 편
• RAG 파이프라인 구축하는 인프런 무료 강의 제공 중

[지금 무료]Spring AI 실전 가이드: RAG 챗봇 만들기| Sionic AI - 인프런 강의

 

 

---

밋업 후기

 

세 발표 모두 서로 다른 관점에서 Spring AI에 대해 다루고 있었다. 한국에서 서버개발자와 스프링은 굉장히 오랜 친구라 그런가 모두 AI와 스프링 생태계의 연결에 대해 모두 긍정적으로 보셨던 것이 기억에 남는다. 발표 전반적으로 Spring AI에 대한 딥한 지식을 이야기하기보단 이런 관점에서 기술에 접근하고 있고, 이런 식으로 활용해보고 있다 같은 내용을 들을 수 있어서 좋았다.

 

컨퍼런스 참여가 굉장히 오랜만.. 거의 1년 만에 갔던 것 같은데 비즈니스를 떠나 순수하게 기술에 대해 이야기 들을 수 있어서 좋았다. 오랜만에 가니 기분 전환이 되었다.

 

Spring AI 뿐만 아니라 많은 AI 관련 서비스들이 아직은 실험 중인 게 많아 보인다. 그만큼 변화 속도도 빨라서 잠깐 멍하니 있으면 새로운 소식이 와르륵 쏟아진다. 최근에 조금씩 AI에 대해 관심을 가지려고 기본적인 개념들을 찾아보고 있는데 아직까지는 이게 된다고? 라며 마냥 신기할 뿐이다. 조금씩 이해도를 높여가고 있는데 공부한 내용들을 차근차근 정리해 보아야겠다.