2024년 6월 3일, 푸가이산(Floating Cap Mountain)을 오르며 남긴 메모를 기본 Claude 3.5/GPT-4o와 RAGgaeton을 붙인 Claude 3.5/GPT-4o에 각각 던져 봤다. 같은 재료를 두고 글쓰기 능력이 어떻게 달라지는지 비교해 보려는 실험이었다.

RAGgaeton 패키지는 인간-컴퓨터 협업에 대한 실험으로 만들었다. 인간의 창의성과 A.I. (artificial intelligence)의 강점을 함께 써서, 독창적인 콘텐츠 제작을 더 크게 확장할 수 있는지 보려는 시도다. 이 글에서는 RAGgaeton을 떠올리게 된 배경, 핵심 기능과 장점, 실제 데모, 기술적으로 부딪힌 문제와 배운 점, 그리고 A.I.가 증강하는 콘텐츠 제작의 앞으로의 가능성을 다룬다.
RAGgaeton에 불을 붙인 생각
솔직히 말하자. 세상은 A.I.를 훈련시킬 데이터가 점점 바닥나고 있다. 그래서 이런 생각이 들었다. A.I.로 인간의 독창적인 콘텐츠 생성을 증강할 수 있다면 어떨까? 훈련 데이터가 귀해지는 동안에도 콘텐츠는 양적으로도, 질적으로도 부족하다. 이 영역에서 A.I.가 좋은 일을 할 여지는 분명히 많다.
나에게 독창적인 글쓰기에는 늘 시스템 1 사고와 시스템 2 사고 사이의 넓은 틈이 있었다. 머릿속에는 초안의 윤곽이 있고, 내가 밀고 싶은 논지도 대충 있다. 그런데 정보를 모으고, 정리하고, 앉아서 온전한 문장과 문단으로 타이핑하는 일? 이상하게 끝까지 가지 않는다. 손안에 연구 보조원 군단이 있으면 얼마나 좋을까…
여기서 Retrieval Augmented Generation (RAG)을 붙인 Large Language Models (LLMs)가 등장한다!
RAGgaeton은 LLMs와 RAG의 힘으로 이 간극을 메운다. 우리가 고른 신뢰할 만한 근거에 발을 붙인 채, 독창적인 콘텐츠를 큰 규모로 만들 수 있게 해준다.
데모: 작동하는 RAGgaeton
RAGgaeton은 내가 가진 데이터에서 어떤 유형의 콘텐츠든 자동으로 만들기 위해 만든 패키지다. 글을 쓰면서 나도, 아마 많은 사람들도 마주치는 몇 가지 문제를 풀도록 설계했다.
1. LLM 글쓰기는 너무 진부하게 들린다
2. 여러 출처에서 정보를 모으고 다시 찾아와야 한다
3. 흐름과 일관성을 유지해야 한다
4. 편집하고 반복 개선할 수 있는, 확장 가능하고 재현 가능한 창작 결과물이 필요하다
RAGgaeton이 무엇을 할 수 있는지 빠르게 보여주는 데모는 이렇다.
Try Things #:2 Claude 3.5 vs. GPT-4o for Automated Travel Writing with RAGgaeton
- 구현은 RAGgaeton Git repository에서 볼 수 있다
내가 가장 좋아하는 생성 제목은 “From Sea to Sky: Unraveling the Mysteries of Fu Gai Mountain's 'Floating Cap'“이고, edit-content를 거친 최종 출력은 아래 전문과 같다.
Introduction
Hook: What if I told you that the mountain you’re about to climb was once submerged beneath an ancient sea, leaving behind a legacy of otherworldly rock formations?
Thesis: Fu Gai Mountain’s geological history and unique landscape offer hikers an opportunity to explore a captivating blend of natural history and breathtaking scenery in Zhejiang province.
Beneath your feet lies a mountain with a secret: it was once submerged under an ancient sea. [TextFX: POV] As you lace up your hiking boots at the base of Fu Gai Mountain in Zhejiang province, you’re not just preparing for a climb – you’re about to embark on a journey through time itself. This geological wonder, with its otherworldly rock formations, stands as a silent sentinel, guarding the mysteries of our planet’s past. [TextFX: SIMILE] Like a book written in stone, each step up the mountain’s slopes reveals a new chapter in Earth’s epic saga, waiting for intrepid explorers to decipher its cryptic pages.
Fu Gai Mountain’s geological tapestry weaves together millions of years of Earth’s history with breathtaking vistas. [TextFX: ALLITERATION] From fantastic formations to peculiar peaks, the mountain’s unique features captivate climbers, geologists, and casual tourists alike. As you ascend, you’ll encounter the mountain’s famous ‘floating cap’, a gravity-defying display of nature’s artistry. [TextFX: SCENE] The air grows thin and crisp, carrying whispers of ancient tales and the faint scent of pine. This isn’t just a hike; it’s a pilgrimage through time, offering a rare glimpse into both the Earth’s tumultuous past and China’s rich cultural heritage.
Setting the Scene
Straddling the border of Zhejiang and Fujian provinces, Fu Gai Mountain rises like a sleeping giant from the surrounding landscape. [TextFX: CHAIN] Its imposing silhouette - peak, ridge, slope, valley, forest, trail, hiker, adventure - beckons to those seeking communion with nature’s grandeur. [TextFX: UNEXPECT] Once a formidable barrier to southward expansion during the Tang dynasty, this geological marvel now serves as a bridge between epochs, inviting modern-day explorers to scale its heights and unravel its secrets. The mountain’s strategic location offers not just a physical challenge, but a journey through the annals of Chinese history and natural evolution.
The mountain’s ‘Four Wonders’ create an otherworldly atmosphere that seems plucked from the pages of a fantasy novel. [TextFX: ACRONYM] CAPE - Clouds, Abysses, Peaks, and Enigmatic springs - encapsulates Fu Gai Mountain’s unique characteristics. [TextFX: FUSE] At the summit, massive boulders balance precariously, forming the famous ‘floating cap’ or ‘gauze hat’ - a geological illusion that both confounds and delights. Strange clouds dance around jagged peaks, their ethereal shapes constantly shifting. Mysterious caves whisper tales of the mountain’s past, while peculiar springs maintain a constant temperature regardless of the season. [TextFX: EXPLODE] Together, these elements combine to create a landscape that’s truly ‘out of this whirl’ - a dizzyingly beautiful natural spectacle that challenges our perception of reality.
나는 Sonnet의 글을 더 좋아한다. 지시한 대로 TextFX를 적용한 것도 마음에 든다. 다만 최종 글은 조금 미완성처럼 보인다. 우리가 desired_length를 600단어로 지정한 것과 관련이 있을지도 모른다. 길이에 따라 프롬프트를 더 잘 설계하거나 작업 체인을 더 최적화해야 할 듯하다. 참고로 이것이 생성한 콘텐츠 블록과 주제문이 들어 있는 전체 초안은 여기 있다.
Claude 3.5 Sonnet과 GPT-4o의 기본 출력과 글 변형을 각각 비교하고 싶다면 아래로 내려가면 된다.
RAGgaeton이 하는 일
글 쓸 시간이 없다고? 문제없다. RAGgaeton은 콘텐츠 생성을 끝에서 끝까지 자동화할 수 있다.
1. 조사 질문을 만들어준다(물론 주제 씨앗은 여전히 직접 넣어야 한다)
2. 조사를 한다
3. 제목을 만든다
4. 전체 글을 초안으로 쓴다
5. TextFX를 적용한다(두운으로 다시 쓰기, 아이디어 펼치기 등)
처음 아이디어를 넣고, RAGgaeton이 일을 하게 둔 뒤, 생성된 초안을 편집하고 고치면 된다. 다음 버전에서는 편집하기 쉬운 인터페이스를 구현하고, 한 번 쓰면 어디에나 발행할 수 있는 흐름을 만들 계획이다.
핵심 기능과 장점
나는 이것을 여러 콘텐츠 유형에 맞게 확장할 수 있고, 콘텐츠 작업을 다양한 방식으로 연결할 수 있도록 만들었다. 동시에 최첨단 ColBERT retriever 모델을 활용했다(연구자들의 표현이지, 내 말은 아니다). 이렇게 하면 생성에 가장 관련 있는 조각을 가져올 수 있다.
확장 가능한 콘텐츠 생성
사용자는 재사용 가능한 콘텐츠 블록을 한 번 정의한 뒤, 원하는 글 유형에 맞게 섞고 맞출 수 있다. 대략 이렇게 작동한다.
- 먼저
content_blocks.json에서 재사용 가능한 콘텐츠 블록을 정의한다
"Setting the Scene": {
"description": "Introduce the setting with vivid descriptions to immerse the reader.",
"details": {
"optional": [
"Time of Day",
"Weather Conditions"
],
"required": [
"Location Description",
"Atmosphere"
]
}
}- 그다음 이런 프롬프트를 복사하고 수정해서, 콘텐츠 블록들을
article_{article_type).yaml안의 가능한 구조로 조합한다
generate_draft_travel:
system_prompt: |
You are an expert travel writer skilled in creating compelling and engaging content for online publications. Always respond with a structured, valid JSON, adhering strictly to the provided example format. Do not include any other text or explanations outside of the JSON structure.
message_prompt: |
Task: Given the following context, generate an updated structure for a Travel Article to be published.
Context:
- Headline: {headline}
- Hook: {hook}
- Thesis: {thesis}
- Article Types: {article_type}
- Topics: {topics}
- Context: {context}
- Data: {optional_params[data]}
- Publication: {optional_params[publication]}
- Country: {optional_params[country]}
- Personas: {optional_params[personas]}
- Desired Length: {optional_params[desired_length]} words
- Scratchpad: {optional_params[scratchpad]}
You may use the possible structures below as a starting point. Each structure is composed of content blocks. Rewrite, reorder, substitute, remove, add new or simply flesh out further details for the structure and content blocks so as to be coherent with your headline, hook and thesis.
Please provide the response in the following structured JSON format:
{{
"draft_outlines": [
{{
"content_block": "Introduction",
"details": "[Content Block Details]"
}},
{{
"content_block": "Personal Circumstances",
"details": "[Content Block Details]"
}},
{{
"content_block": "Destination Overview",- 관련 매개변수와
article_type값을 넣어generate_draft엔드포인트를 호출하면 생성이 시작된다!
P.S. 콘텐츠 블록을 구조로 일일이 써두기보다 알고리즘으로 순열 조합할 수도 있다. 아마도 앞으로 해볼 작업이다.
A.I. 기반 조사와 검색
RAGgaeton은 쓰기만 하지 않는다. 조사도 한다. 여러 플랫폼에서 추가 조사를 위한 키워드를 만들고, 검색을 수행한 뒤, 정보를 데이터베이스에 저장한다. 문서 단위 임베딩 대신 토큰 기반 late interaction 방식을 활용하기 때문에, 콘텐츠에 가장 관련 있는 정보를 찾아 정확성과 깊이를 높일 수 있다. 현재 구현은 you.com과 Obsidian vaults를 지원하고, 앞으로 더 많은 출처를 붙일 예정이다.
창의적 보강을 위한 TextFX
TextFX로 평범한 문장을 더 살아 있는 콘텐츠로 바꿀 수 있다. 두운을 더하고, 복잡한 생각을 펼치고, 단어 하나를 비슷하게 들리는 구절로 폭발시키는 식의 작업을 간단한 edit-content 명령으로 수행한다.
기술 스택
기술적으로 궁금한 사람들을 위해 적어두면, RAGgaeton은 다음으로 만들었다.
-
자연어 생성을 위한 Claude 3.5 Sonnet과 GPT-4o
-
데이터베이스 관리를 위한 Supabase
-
추적과 모니터링을 위한 Langfuse
-
효율적인 정보 검색을 위한 Llama Index(그리고 나중에는 문서와 데이터를 대상으로 상태를 유지하는 채팅!)
-
데이터 검증을 위한 Pydantic
-
generate-research-questions,do-research,generate-headlines,generate-draft,generate-topic-sentences,generate-full-content,edit-content를 노출하는 원자적 API 엔드포인트를 위한 FastAPI
이 조합 덕분에 RAGgaeton은 일관성과 흐름을 유지하면서, 맥락에 맞는 고품질 콘텐츠를 내놓을 수 있다.
실제 RAGgaeton 검토: 입력과 출력
RAGgaeton의 힘을 제대로 보려면 모델별 출력을 실제로 비교해 봐야 한다. 시작점으로 you.com과 푸가이산에 관한 초안 개요를 쓰겠다. 여행 작가가 여행 뒤에 적어둘 법한 거친 메모다.
입력: 작가의 초안 메모
RAGgaeton 데이터베이스에 넣을 수 있는 정보의 예시는 이렇다.
An A.I. Engineer Goes Gradient Descent on Floating Cap Mountain
<Intro>
Just wanted to climb a mountain somewhere after seeing Yu Yan's concert in Suzhou and it has this 仙霞古道 (got part of my mum's name in it) which seemed interesting, the mountains 江郎山 and 浮盖山 seemed fun too
<Getting There>
Jiang Shan train station was under renovation, so I took public buses and another super long ride that locals told me to get on; should have went another route instead. I think that sometimes locals also don't always have the best source of info, or even if they do, what suits them might not suit me?
<Destination Vibes>
I stayed in the accommodation for many days to work on a coding assignment and finally found the time on 3 June to go hiking
Lived near Nian Ba Du Ancient Town and the whole area had strong calligraphy vibes, like many families hung these couplets down their front doors, owner of the place I stayed in would practice calligraphy every now and then
<Transportation>
I called a car by Didi, who only took me there because if he declined it would affect his ratings
It was a winding path up and we weren't able to agree on him fetching me on the way down, so I decided to figure that out later
<About the Mountain>
Fu Gai Shan, or floating cap mountain,
主峰峰顶盘石垒叠,下者如盘,上者如盖,故名浮盖山
"云怪,石怪,洞怪,泉怪"是浮盖山的四大特征。徐霞客曾赞曰: "怪石拿云,飞霞削翠"。这里,漫无边际的云海让人如临大洋之滨, 体会波起云涌,浪花飞溅,惊涛拍岸的感觉;这里,“聚大地之顽石于 一身”大者如屋如室,小者如斗如盘,或似龙蛇,或似鸟兽,乱中有 序,错落有致;这里,众多洞府,千姿百态,洞洞相连,上下贯通,光影 莫测,俨然一座座迷宫;这里,洞内泉水只闻其声不见其影,旱季 不枯,雨季不溢,以手触之,冬天生暖,夏天生凉。
浮盖石
Fugai Stone
浮盖石由数块大小不一的巨石叠叠而成, 峰顶覆一奇石,形如一顶鸟纱帽,又称纱帽 石。以前许多学子都在此聚会,衣锦还乡后, 更会登上纱帽石祈望自己以后的官运一帆风 顺。著名作家高洪波曾为此题词:“头上三 千烦恼丝,桂冠一顶是浮盖。”
Fugai Stone is made of several huge stones of different sizes. The peak is covered with a strange stone, which looks like a gauze hat. Therefore, it’s also called Wusha Stone. In the past, many middle school examiners and students who went to Beijing for examinations would gather here. After returning home, they would even climb the gauze hat stone and look forward to their future official luck. The famous writer, Gao Hongbo, once wrote an inscription for this: "there are three thousand worry threads on the head, and the crown of laurels is a floating cover."
Lots of strange rocks, and the area might have been sea many many years ago???
齿状山脊
Sierra
沿着浮盖山的主脊往回望,但见每隔几 米就有突岩兀立。大序次第,掩映于翠绿的阔 叶林之上。望云者石、观音石、拳头石,一字 排开,虽形态各异,但海拔相近。约九百余 米,组成了一段长长约270米、面积约1.2万平 方米的齿状山脊。这里的地质条件复杂且大尺度稳定, 在很长的时间内风化主导的漫长地质过程,形成植被茂 密的准平原地表。后来,地壳再度活跃,整体抬升, 并渐渐被流水侵蚀,残留形成山脊。초안 개요에 넣은 정보는 내가 찍은 사진에서 A.I.로 텍스트를 추출해 얻었다. 예를 들면 아래와 같다.

작업
기본 LLM 클라이언트에는 다음 프롬프트를 바탕으로 푸가이산 하이킹 여행 글을 쓰게 했다.
write me a 600 word travel article about hiking to fu gai mountain in zhejiang
Scratchpad: I saw an ant try to move a flower on the hike, it was doing so with all its might. When not doing gradient descent, an A.I. engineer had lots of fun climbing a physical mountain. I took a challenging route and ended up climbing over rocks and caves.초안 입력 메모에 접근할 수 있었던 것은 RAGgaeton 모델뿐이었다. 그러니 아래 출력들은 두 축의 변형 결과다. 제한된 맥락과 풍부한 맥락(작가의 초안 메모 포함), 그리고 zero-shot LLM 생성과 multi-step LLM 생성.
기본 GPT-4o 출력
Hiking to Fu Gai Mountain: A Journey through Nature's Majesty
Nestled in the heart of Zhejiang province, Fu Gai Mountain stands as a testament to nature's unspoiled beauty and the adventurous spirit of those who seek to conquer its heights. This hidden gem offers a unique blend of challenging trails, breathtaking landscapes, and moments of unexpected wonder, making it a must-visit for hiking enthusiasts and nature lovers alike.
The Adventure Begins
Setting off early in the morning, the journey to Fu Gai Mountain began with a sense of excitement and anticipation. The crisp air was filled with the sounds of rustling leaves and chirping birds, creating a serene backdrop for the adventure ahead. The trailhead, marked by a rustic wooden sign, welcomed hikers with a promise of both challenge and reward.
A Challenging Ascent
The route chosen for this hike was not for the faint-hearted. As an A.I. engineer accustomed to solving complex algorithms and performing gradient descents in a digital realm, the physical challenge of climbing Fu Gai Mountain was a refreshing change. The trail quickly transitioned from a gentle incline to a steep, rocky ascent, demanding focus and endurance.
Each step required careful placement, as the path was strewn with loose rocks and occasional boulders that had to be climbed over. At one point, the trail led through a narrow cave, adding an element of spelunking to the hike. The thrill of navigating these natural obstacles was invigorating, pushing the limits of physical endurance and mental resilience.
Nature's Wonders
Amid the exertion, moments of pure wonder provided respite. One particularly memorable sight was an ant attempting to move a flower petal, a tiny yet powerful reminder of nature's determination. Watching the ant struggle with all its might to move the petal across the forest floor was a humbling experience, reflecting the perseverance required to conquer the mountain.
Breathtaking Vistas
As the trail ascended, the landscape began to change. Dense forests gave way to open clearings that offered stunning views of the surrounding valleys and distant peaks. Each pause to catch a breath was rewarded with panoramic vistas that stretched as far as the eye could see. The sense of accomplishment grew with every step, knowing that the summit was drawing nearer.
Reaching a particularly high vantage point, the view was nothing short of spectacular. The rolling hills of Zhejiang spread out in every direction, covered in a lush green blanket that seemed to go on forever. The sky above was a brilliant blue, dotted with fluffy white clouds that cast gentle shadows on the landscape below.
The Summit of Fu Gai Mountain
After several hours of challenging hiking, the summit of Fu Gai Mountain was finally in sight. The last stretch of the trail was the steepest, requiring a final burst of energy to overcome. But the effort was well worth it. Standing at the peak, a sense of triumph washed over me. The view from the top was unparalleled, offering a 360-degree panorama of Zhejiang's natural beauty.
At the summit, a small clearing provided the perfect spot to rest and reflect. The journey had been arduous, but it was also deeply rewarding. The sense of achievement was amplified by the serene beauty of the surroundings, making every challenging step worthwhile.
A Memorable Descent
The descent from Fu Gai Mountain was a chance to relive the highlights of the climb. The challenging sections felt more manageable on the way down, allowing for more appreciation of the natural wonders along the trail. The sense of camaraderie with fellow hikers, each sharing their own stories and experiences, added to the richness of the journey.
Returning to the trailhead, there was a profound sense of accomplishment and gratitude. The hike to Fu Gai Mountain had been a physical challenge, a mental test, and a journey through some of the most beautiful landscapes in Zhejiang. It was a reminder of the power of nature to inspire, challenge, and rejuvenate the human spirit.
Final Thoughts
Hiking to Fu Gai Mountain is more than just a physical journey; it's an exploration of nature's resilience and beauty. Whether you're an experienced hiker or a nature enthusiast, the trail offers a unique blend of challenge and reward that leaves a lasting impression. For anyone seeking an unforgettable adventure in Zhejiang, Fu Gai Mountain is a destination that promises both challenge and awe.GPT-4o의 글은 극도로 지루하게 읽힌다. 너무 일반적이라 Fu Gai Mountain을 다른 아무 산으로 바꿔도 그대로 굴러간다.
Vanilla Claude 3.5 Sonnet Output
Here's a 600-word travel article about hiking Fu Gai Mountain in Zhejiang, incorporating some elements from your scratchpad:
Scaling the Heights: A Journey to Fu Gai Mountain
Nestled in the lush landscape of Zhejiang province, Fu Gai Mountain stands as a testament to nature's grandeur and a beacon for adventurers seeking to challenge themselves amidst breathtaking scenery. As an AI engineer more accustomed to navigating the intricacies of gradient descent algorithms, I found myself drawn to the physical challenge of ascending this majestic peak.
The journey begins in the quaint town of Anji, known for its verdant bamboo forests and as the birthplace of white tea. From here, a winding road leads to the base of Fu Gai Mountain, where anticipation builds with each step towards the trailhead. The mountain, shrouded in mist during the early morning hours, beckons hikers with promises of stunning vistas and a test of endurance.
Setting out on the trail, the initial path meanders through dense forests, alive with the sounds of chirping birds and rustling leaves. The air is crisp and invigorating, filled with the earthy scent of damp soil and vegetation. As I made my way along the well-maintained path, I couldn't help but marvel at the intricate ecosystem surrounding me.
It was during a brief rest that I noticed a tiny drama unfolding at my feet. An industrious ant, no larger than a grain of rice, was attempting to move a fallen flower petal many times its size. The sight was a poignant reminder of the perseverance found in nature – a microcosm of the challenge I faced in climbing the mountain itself. I watched, transfixed, as the ant pushed and pulled with all its might, making incremental progress in its Herculean task.
As the trail steepened, the true test began. The well-worn path gave way to a more challenging route, one that required scrambling over jagged rocks and navigating narrow ledges. Each step demanded focus and determination. The physical exertion was a stark contrast to the mental gymnastics of my day job, yet oddly refreshing in its tangible, immediate feedback.
Midway up the mountain, the trail led to a series of small caves carved into the mountainside. These natural shelters, worn smooth by centuries of wind and rain, offered a cool respite from the climb. Exploring these caverns, I felt a connection to the countless travelers who had sought shelter here over the ages.
Emerging from the caves, the landscape transformed. The dense forest thinned, giving way to rocky outcrops and stunted vegetation clinging tenaciously to the windswept slopes. The air grew thinner, and each breath became more deliberate. Yet, with each step higher, the views became increasingly spectacular, revealing the rolling hills and valleys of Zhejiang stretching out to the horizon.
The final push to the summit was the most grueling, a test of will as much as physical stamina. Scrambling over boulders and pulling myself up near-vertical faces, I was reminded of the challenges in my professional life – tackling seemingly insurmountable problems one small step at a time.
Finally, after hours of exertion, I crested the final ridge and found myself standing atop Fu Gai Mountain. The 360-degree panorama was nothing short of breathtaking. Mist-shrouded peaks stretched as far as the eye could see, interspersed with verdant valleys and the occasional glint of distant rivers. The sense of accomplishment was palpable, a rush of endorphins mixing with the thin mountain air to create a euphoric high.
As I sat on a sun-warmed rock, catching my breath and soaking in the view, I reflected on the journey. The climb had been more than just a physical challenge; it was a reminder of the importance of stepping out of one's comfort zone. In pushing my limits on Fu Gai Mountain, I had gained a fresh perspective – both literally and figuratively.
The descent, while less physically demanding, offered its own rewards. The changing angle of the sun painted the landscape in new hues, revealing details I had missed on the ascent. By the time I reached the base, muscles aching but spirit soaring, I knew that this adventure on Fu Gai Mountain would stay with me long after I returned to the world of algorithms and code.
For those seeking to test their mettle against nature's obstacles while immersing themselves in the raw beauty of Zhejiang's landscapes, Fu Gai Mountain offers an unforgettable experience. It stands as a reminder that sometimes, the greatest achievements come not from conquering virtual challenges, but from scaling the very real peaks that surround us.Sonnet 3.5는 문장은 더 낫지만 Anji를 환각했다. Fu Gai Mountain은 Jiangshan에 있다.
전반적으로, 더 풍부한 맥락을 넣은 RAGgaeton 출력이 주어진 초안 메모에 여행을 단단히 붙이는 데 더 잘한다.
RAGgaeton GPT4-o Outputs
RAGgaeton Claude 3.5 Outputs
-
The Unexpected Thrills of Hiking Fu Gai Mountain: When the Path Less Traveled Leads to Adventure
-
이 출력이 등반을 묘사한 방식이 꽤 마음에 든다. 실제로 이런 느낌이었기 때문이다 :)
China as a 360 Adventure: Come caving with me
… Geological marvels and unorthodox pathways intertwine to create an adventure that transcends the typical trekking experience. Nicknamed ‘Floating Cap Mountain’ for its summit’s hat-like stone formation, Fu Gai Mountain stands as a testament to nature’s artistry. Its trails meander through a tapestry of strange rocks, mysterious caves, and hidden springs, each turn revealing a new facet of the mountain’s character. Like a game of ‘I Spy’ on steroids, hikers find themselves constantly scanning their surroundings, never knowing if the next step will lead them over, under, or through the mountain’s enigmatic terrain. [TextFX: UNEXPECT]
Exploring this formidable peak pushes adventurers to their limits, both physically and mentally, while unveiling the raw splendor of China’s diverse landscape. As hikers navigate its challenging terrain, they are not merely walking a path but solving a three-dimensional puzzle that Mother Nature herself has crafted. This journey of discovery demands agility, creativity, and perseverance, rewarding those who rise to the challenge with breathtaking vistas and a profound sense of accomplishment. Fu Gai Mountain stands as a natural playground where adventurers can test their mettle, transforming from mere hikers into intrepid explorers, each conquering their own personal Everest. [TextFX: FUSE]
-
-
From Sea to Sky: Unraveling the Mysteries of Fu Gai Mountain’s ‘Floating Cap’
-
Conquering Fu Gai Mountain: A Hiker’s Adventure in Zhejiang’s ‘Floating Cap’ Paradise
보면 알 수 있듯, 기본 출력은 매우 밋밋하고 일반적이다. 반면 RAGgaeton이 생성한 콘텐츠는 더 풍부한 세부 사항, 몰입감 있는 묘사, 문화적 맥락, 그리고 입력 메모와 맞는 구조를 제공한다. 거친 초안이 포괄적이고 읽히는 콘텐츠로 바뀔 수 있음을 보여준다.
판정
내가 in-context learning으로 건넨 TextFX를 적용한 것은 Sonnet 3.5뿐이었다. 다만 원하는 길이에 맞게 더 다듬을 필요는 있다. 전체적으로는 검토한 샘플 중 글 자체의 가치는 이 출력이 가장 높다고 느꼈다.
내 설계 철학
RAGgaeton을 만들면서 마음에 두려는 핵심 원칙은 세 가지다.
1. **이동 가능한 데이터**: 콘텐츠는 내 것이어야 한다. 여러 플랫폼과 도구에서 접근 가능하고 쓸 수 있어야 한다.
2. **각자의 필요에 맞게 조정 가능할 것**: 사용자는 모델 동작, 출력 편집, 워크플로 운영, 근거성 등을 세밀하게 제어할 수 있어야 한다.
3. **아시아 언어를 일급으로 지원할 것**: 웹에서 중국어 같은 언어가 아직 충분히 대표되지 못하고 있다는 점 때문에, 나에게는 개인적으로도 중요한 문제다.
배운 점과 어려웠던 점
RAGgaeton을 만드는 과정은 통찰과 난관으로 가득했다. 주요 배움은 다음과 같다.
추상화와 특수성
이 절충의 균형을 잡는 일은 늘 어렵다. 나는 언제까지 무엇을 달성하고 싶은지에서 거꾸로 출발한 뒤, 최종 목표를 개별 요소로 쪼개고, 어떤 부분을 더 재사용 가능하게 만들지 살펴보는 방식이 유용했다.
그 과정에서 llm_handler.py, llm_processing.py, prompts.py를 분리했다. llm_handler.py는 prompts.py가 형식화한 프롬프트로 호출을 만들고, llm_processing.py는 응답을 파싱해 엔드포인트와 잘 맞물리도록 한다. 이렇게 하면 모든 작업이 원자적으로 나뉘고, 어떤 순서로 연결할지는 자유롭게 정할 수 있다.
확률적 모델을 결정론적으로 행동하게 제한하기
내가 마주한 어려움 중 하나는 언어 모델에서 예측 가능한 동작을 얻는 일이었다. 이를 해결하려고 Pydantic으로 요청과 모델 출력에 엄격한 스키마를 정의했다. 그런 제약이 없으면 이런 일이 생길 수 있다.

한쪽에서는 attraction과 description이 details 키 안에 들어가 있고, 다른 쪽에서는 attraction_# 아래에 name과 description이 다시 중첩되어 있다. 이 모델들은 정말 “창의적”이다. 그래서 전통적인 프로그래밍 패러다임과 예측 가능하게, 그리고 하위 호환되게 맞추려면 별도의 작업이 필요하다.
RAG의 미래
나는 프롬프트 엔지니어링, RAG, 미세조정을 A.I. Engineer의 도구상자 안에 있는 서로 다른 도구로 본다. 맥락 창이나 다른 요인이 어떻게 바뀌든, RAG는 계속 남을 것이다. 직관적으로도 맥락 안의 신호대잡음비는 성능에 중요하다. 모델이 세계적인 인간 전문가처럼 불필요한 정보를 걸러내고 당면 과제에 집중할 수 있는 지점에는 아직 오지 않았다.
RAGgaeton의 다음 단계
나는 계속 RAGgaeton을 개선하고 있다. 기대하고 있는 다음 단계는 이렇다.
1. **평가와 인용**: 실패했을 때만 알려주는 자동 평가와, 어떤 콘텐츠 조각이 더 불안한 근거 위에 있는지 보여주는 인용 시스템을 구현하고 싶다.
2. **리팩터링과 조합 가능성**: Pydantic 스키마가 아직 조금 지저분해서 정리하고 반복을 줄이고 싶다.
3. **중국어 생성**: 내가 특히 기대하는 개선이다. A.I.가 이런 문장을 더 많이 쓸 수 있다면 멋지지 않을까.
“花香摇晃了一整个盛夏,空气漂浮蒸发着无数个恍惚的脸颊。择一张长椅坐下,看天边披上晚霞。”
—陈恩娇
대충 옮기면 이렇다.
“꽃향기가 한여름 내내 흔들렸고, 아득한 얼굴들은 공기 속에 떠올라 증발했다. 긴 의자 하나를 골라 앉아, 하루의 기억을 머금은 채 저녁노을이 번져 오는 것을 바라본다.”
—Ernie
Generative A.I.로 미래를 (다시) 쓰자
나는 인간-A.I. 협업이 콘텐츠의 양과 질을 모두 확장할 수 있다고 믿기 때문에 RAGgaeton을 만들었다. 언어와 정보 비대칭 같은 지식의 장벽을 더 많이 허물수록 더 많은 사람이 혜택을 얻을 수 있다.
중국어 화자가 세계 인구의 17%를 차지하는데도, 웹에서 중국어 콘텐츠는 1.3%에 불과하다. RAGgaeton 같은 도구가 도와 해결했으면 하는 격차가 바로 이런 것이다. 손끝에서 세계의 지식에 접근하는 데 언어가 장벽이 되어서는 안 된다.
작가, 콘텐츠 창작자, 또는 A.I.와 콘텐츠 제작의 교차점에 관심 있는 사람이라면 RAGgaeton의 발전 방향을 함께 만들어 보고 싶다.
이 여정의 일부가 되고 싶다면 연락해 달라. 함께라면 콘텐츠가 만들어지는 방식을 더 효율적이고, 확장 가능하고, 모두에게 접근 가능한 방식으로 바꿀 수 있다.
미래를 함께 쓰자!
원래 PubPub의 erniesg.pubpub.org/pub/z40gi88t에 게시됨.