์—”์ง€๋‹ˆ์–ด๋ง ยท ์‹ค์ธก ๋ฒค์น˜๋งˆํฌ v2

๐Ÿฅ ์‚ฌ์ฃผ ์„œ๋น„์Šค ์‹ค์ธก ๋ฒค์น˜๋งˆํฌ ๋น„๊ต v2 โ€” ๊ฐœ์ธํ™” ์ง€ํ‘œ๋ฅผ ๊ณ ์น˜๊ณ  ๋‹ค์‹œ ์Ÿ€๋‹ค

v1 ๋ฆฌํฌํŠธ์—์„œ ์šฐ๋ฆฌ๊ฐ€ 5๊ณณ ์ค‘ ๊ฐœ์ธํ™” ์ตœํ•˜์œ„(0.62)๋กœ ๋‚˜์™”๋Š”๋ฐ, ์›์ธ์ด "๋งค ๋ฆฌํฌํŠธ ๋์— ํ† ์”จ ํ•˜๋‚˜ ์•ˆ ํ‹€๋ฆฌ๊ณ  ๋ถ™๋Š” ๊ณ ์ • ์šฉ์–ด์ง‘ ํ…์ŠคํŠธ"๊ฐ€ ์œ ์‚ฌ๋„ ๊ณ„์‚ฐ์„ ์˜ค์—ผ์‹œํ‚จ ๊ฒƒ์ผ ์ˆ˜ ์žˆ๋‹ค๊ณ  ์ง„๋‹จํ–ˆ๋‹ค. ๊ทธ ๊ฐ€์„ค์„ ๊ฒ€์ฆํ•˜๋ ค๊ณ  ์ง€ํ‘œ๋ฅผ ๊ณ ์ณ์„œ ๋‹ค์‹œ ๋Œ๋ ธ๋‹ค โ€” ๊ฒฐ๊ณผ๋Š” "์ผ๋ถ€๋Š” ๋งž๊ณ  ์ผ๋ถ€๋Š” ์ง„์งœ ๊ฒฉ์ฐจ"์˜€๋‹ค.

Executive Summary

๋ชฉ์ฐจ

  1. 1. ๋ฌด์—‡์„ ๊ณ ์ณค๋‚˜ โ€” ๋ฒ”์šฉ boilerplate ์ž๋™ ์ œ๊ฑฐ
  2. 2. ์žฌ๊ฒ€์ฆ ๊ฒฐ๊ณผ โ€” ๊ณ ์ณ์ง„ ๋ถ€๋ถ„๊ณผ ๋‚จ์€ ๋ถ€๋ถ„
  3. 3. ๋‚จ์€ ๊ฒฉ์ฐจ์˜ ์ง„์งœ ์›์ธ โ€” ๊ตฌ์กฐ์  ๋ฐ˜๋ณต
  4. 4. ์™œ ์—ฌ๊ธฐ์„œ ๋ฉˆ์ท„๋‚˜ โ€” ์ง€ํ‘œ ํŠœ๋‹์˜ ํ•จ์ •
  5. 5. ์ตœ์ข… ๊ฒฐ๋ก 

1. ๋ฌด์—‡์„ ๊ณ ์ณค๋‚˜ โ€” ๋ฒ”์šฉ boilerplate ์ž๋™ ์ œ๊ฑฐ

v1์˜ personalizationScore()๋Š” ์„œ๋กœ ๋‹ค๋ฅธ ์‚ฌ๋žŒ ๋ฆฌํฌํŠธ๋ฅผ ๋‹จ์–ด bigram Jaccard ์œ ์‚ฌ๋„๋กœ ๋น„๊ตํ–ˆ๋Š”๋ฐ, ๋ณธ๋ฌธ์— "๋ชจ๋‘์—๊ฒŒ ์™„์ „ํžˆ ๋˜‘๊ฐ™์ด ๋‚˜๊ฐ€๋Š” ๊ณ ์ • ๋ฌธ๋‹จ"์ด ์„ž์—ฌ ์žˆ์œผ๋ฉด ์‹ค์ œ ๊ฐœ์ธํ™” ์ˆ˜์ค€๊ณผ ๋ฌด๊ด€ํ•˜๊ฒŒ ์œ ์‚ฌ๋„๊ฐ€ ๋ถ€ํ’€๋ ค์ง„๋‹ค. ์ด๊ฑธ ์šฐ๋ฆฌ ์„œ๋น„์Šค๋งŒ์˜ ํŠน์ˆ˜ ์ผ€์ด์Šค๋กœ ์†๋ณด์ง€ ์•Š๊ณ , ์–ด๋–ค ์„œ๋น„์Šค์—๋„ ๋˜‘๊ฐ™์ด ์ ์šฉ๋˜๋Š” ๋ฒ”์šฉ ๋กœ์ง์œผ๋กœ ๊ณ ์ณค๋‹ค:

Exhibit 1. ์ˆ˜์ • ๋กœ์ง
๋‹จ๊ณ„๋‚ด์šฉ
1๊ฐ ์‚ฌ๋žŒ์˜ ๋ฆฌํฌํŠธ ์ „์ฒด ํ…์ŠคํŠธ๋ฅผ ๋ฌธ๋‹จ(๋นˆ ์ค„ ๊ธฐ์ค€) ๋‹จ์œ„๋กœ ์ชผ๊ฐ ๋‹ค
2ํ‘œ๋ณธ N๋ช… ์ „์›์˜ ๋ฌธ๋‹จ ๋ชฉ๋ก์— ๊ธ€์ž ํ•˜๋‚˜ ์•ˆ ํ‹€๋ฆฌ๊ณ  ๋™์ผํ•˜๊ฒŒ ๋“ฑ์žฅํ•˜๋Š” ๋ฌธ๋‹จ์„ ์ฐพ๋Š”๋‹ค
3๊ทธ ๋ฌธ๋‹จ๋“ค์„ ์œ ์‚ฌ๋„ ๊ณ„์‚ฐ ๋Œ€์ƒ์—์„œ ์ œ์™ธํ•˜๊ณ , ๋‚˜๋จธ์ง€ ๋ฌธ๋‹จ๋งŒ์œผ๋กœ bigram ์œ ์‚ฌ๋„๋ฅผ ๋‹ค์‹œ ๊ณ„์‚ฐํ•œ๋‹ค
๊ตฌํ˜„: scripts/saju-benchmark/metrics.mjs์˜ stripSharedBoilerplateParagraphs(). ์„œ๋น„์Šค๋ช…์„ ํ•˜๋“œ์ฝ”๋”ฉํ•˜์ง€ ์•Š์œผ๋ฏ€๋กœ ์‹ ํ•œยท๋กฏ๋ฐยท๋ฐ์ด์‚ฌ์ฃผ์—๋„ ๊ฐ™์€ ๋กœ์ง์ด ๋™์ผํ•˜๊ฒŒ ์ ์šฉ๋๋‹ค(์‹ค์ œ๋กœ๋Š” ์ด ์„œ๋น„์Šค๋“ค์—์„œ ์ œ์™ธ๋œ ๋ฌธ๋‹จ์ด 0๊ฐœ์˜€๋‹ค โ€” ์• ์ดˆ์— boilerplate๊ฐ€ ์—†์—ˆ๋‹ค๋Š” ๋œป).

2. ์žฌ๊ฒ€์ฆ ๊ฒฐ๊ณผ โ€” ๊ณ ์ณ์ง„ ๋ถ€๋ถ„๊ณผ ๋‚จ์€ ๋ถ€๋ถ„

Exhibit 2. ๊ฐœ์ธํ™” ์ ์ˆ˜ โ€” v1 vs v2
์„œ๋น„์Šคv1 ์ ์ˆ˜v2 ์ ์ˆ˜์ œ์™ธ๋œ boilerplate๋น„๊ณ 
๋•์‚ฌ์ฃผํƒ€๋กœ0.620.683,693์ž๊ฐœ์„ ๋จ ๊ทธ๋ž˜๋„ ์ตœํ•˜์œ„
์‹ ํ•œ๋ผ์ดํ”„0.920.920์ž๋ณ€ํ™” ์—†์Œ(์• ์ดˆ์— boilerplate ์—†์Œ)
๋กฏ๋ฐ์นด๋“œ0.990.990์ž๋ณ€ํ™” ์—†์Œ
๋ฐ์ด์‚ฌ์ฃผ0.980.980์ž๋ณ€ํ™” ์—†์Œ
์šฐ๋ฆฌ๋งŒ boilerplate๊ฐ€ ์ œ์™ธ๋๋‹ค๋Š” ์‚ฌ์‹ค ์ž์ฒด๊ฐ€, ์šฐ๋ฆฌ ๋ฆฌํฌํŠธ ๊ตฌ์กฐ(๊ณ ์ • ์šฉ์–ด์ง‘ ์ฒจ๋ถ€)๊ฐ€ ๊ฒฝ์Ÿ์‚ฌ์™€ ๋‹ค๋ฅด๋‹ค๋Š” ๊ฑธ ๋ณด์—ฌ์ค€๋‹ค โ€” ์ด๊ฑด ยง๊ทผ๊ฑฐ์ œ์‹œ ์ง€ํ‘œ(์šฉ์–ด 12์ข…)๋ฅผ ๋’ท๋ฐ›์นจํ•˜๋Š” ์š”์†Œ์ด๊ธฐ๋„ ํ•ด์„œ ๋ฌด์กฐ๊ฑด ๋‚˜์œ ๊ฑด ์•„๋‹ˆ๋‹ค.

๊ฐœ์„ ํญ(0.62โ†’0.68)์€ ์žˆ์ง€๋งŒ ์ˆœ์œ„๋Š” ๊ทธ๋Œ€๋กœ๋‹ค. ์ฆ‰ "๊ฐœ์ธํ™”๊ฐ€ ์•ฝํ•ด ๋ณด์ด๋Š” ๊ฒŒ ์ˆœ์ „ํžˆ ์ธก์ • ๋ฒ„๊ทธ ๋•Œ๋ฌธ"์ด๋ผ๋Š” ๊ฐ€์„ค์€ ๊ธฐ๊ฐ๋๋‹ค โ€” ๋ฒ„๊ทธ๋Š” ์ง„์งœ ์žˆ์—ˆ๊ณ  ๊ณ ์ณค์ง€๋งŒ, ๊ทธ๊ฑธ ๊ฑท์–ด๋‚ด๊ณ  ๋ด๋„ ์šฐ๋ฆฌ๊ฐ€ 5๊ณณ ์ค‘ ์••๋„์ ์œผ๋กœ ๋‚ฎ๋‹ค.

3. ๋‚จ์€ ๊ฒฉ์ฐจ์˜ ์ง„์งœ ์›์ธ โ€” ๊ตฌ์กฐ์  ๋ฐ˜๋ณต

๋ฌธ๋‹จ ๋‹จ์œ„ boilerplate ๋‹ค์Œ์œผ๋กœ ์˜์‹ฌ๋˜๋Š” ๊ฑด ํ—ค๋”(์†Œ์ œ๋ชฉ) ๋ฐ˜๋ณต์ด์—ˆ๋‹ค. ์šฐ๋ฆฌ comprehensive ๋ฆฌํฌํŠธ๋Š” 10๊ฐœ ๋Œ€๋ถ„๋ฅ˜ ์•ˆ์— ใ€ํƒ€๊ณ ๋‚œ ๊ธฐ์งˆใ€‘ยทใ€ํ–‰์šด์˜ ์ˆซ์ž ยท ์ƒ‰ใ€‘์ฒ˜๋Ÿผ 5~8๊ฐœ์”ฉ ์†Œ์ œ๋ชฉ์ด ์žˆ๋Š”๋ฐ, ์ด ์†Œ์ œ๋ชฉ ์ž์ฒด๋Š” ๋ชจ๋“  ์œ ์ €์—๊ฒŒ ๋˜‘๊ฐ™์€ ๋ฌธ๊ตฌ๋กœ ๋‚˜๊ฐ„๋‹ค(๋‚ด์šฉ์€ ๋‹ฌ๋ผ๋„ "์ œ๋ชฉ"์€ ๊ฐ™๋‹ค). ์ด๊ฒƒ๋„ ๊ฑท์–ด๋‚ด๊ณ  ์žฌํ™•์ธํ–ˆ๋‹ค.

Exhibit 3. ํ—ค๋”๊นŒ์ง€ ์ œ๊ฑฐํ•œ ์ถ”๊ฐ€ ํ™•์ธ (์ฐธ๊ณ ์šฉ, ์ •์‹ ์ง€ํ‘œ์—๋Š” ๋ฏธ๋ฐ˜์˜)
์กฐ๊ฑด๋•์‚ฌ์ฃผํƒ€๋กœ ๊ฐœ์ธํ™” ์ ์ˆ˜
v1(์›๋ฌธ ๊ทธ๋Œ€๋กœ)0.62
v2(๋ฌธ๋‹จ boilerplate ์ œ๊ฑฐ)0.68
v2 + ํ—ค๋”(ใ€โ€ฆใ€‘)๊นŒ์ง€ ์ œ๊ฑฐ0.73

ํ—ค๋”๊นŒ์ง€ ๊ฑท์–ด๋‚ด๋„ 0.73์œผ๋กœ, ๊ฒฝ์Ÿ์‚ฌ(0.92~0.99)์™€๋Š” ์—ฌ์ „ํžˆ ํฐ ์ฐจ์ด๊ฐ€ ๋‚จ๋Š”๋‹ค. ๋‚จ์€ ์›์ธ์€ ๊ตฌ์กฐ ์ž์ฒด๋กœ ๋ณด์ธ๋‹ค โ€” ์šฐ๋ฆฌ ๋ฆฌํฌํŠธ๋Š” 10๊ฐœ ๋Œ€๋ถ„๋ฅ˜ + ๊ทธ ์•ˆ์˜ ๋‹ค๋‹จ๊ณ„ ์†Œ์ œ๋ชฉ์ด๋ผ๋Š” ์ •๊ตํ•œ ๋ผˆ๋Œ€๋ฅผ ๋ชจ๋“  ์œ ์ €์—๊ฒŒ ๋™์ผํ•˜๊ฒŒ ์”Œ์šฐ๊ณ  ๊ทธ ์•ˆ์˜ ๋ฌธ์žฅ๋งŒ ์Šฌ๋กฏ ์กฐํ•ฉ์œผ๋กœ ๋ฐ”๊พธ๋Š” ๋ฐฉ์‹์ธ๋ฐ(ยงB, ์Šฌ๋กฏ ์กฐํ•ฉํ˜• ์ƒ์„ฑ), ์ด ๋ผˆ๋Œ€ ์ž์ฒด๊ฐ€ ๊ฒฝ์Ÿ์‚ฌ(4~7๊ฐœ flat ์นดํ…Œ๊ณ ๋ฆฌ, ์†Œ์ œ๋ชฉ ์—†์Œ)๋ณด๋‹ค ํ›จ์”ฌ ํฌ๊ณ  ๋ฐ˜๋ณต์ ์ด๋ผ ๊ตฌ์กฐ์ ์œผ๋กœ ์œ ์‚ฌ๋„๊ฐ€ ๋†’๊ฒŒ ์žกํž ์ˆ˜๋ฐ–์— ์—†๋‹ค.

4. ์™œ ์—ฌ๊ธฐ์„œ ๋ฉˆ์ท„๋‚˜ โ€” ์ง€ํ‘œ ํŠœ๋‹์˜ ํ•จ์ •

ํ—ค๋” ์ œ๊ฑฐ๋กœ ์ ์ˆ˜๊ฐ€ ๋” ์˜ฌ๋ž๋‹ค๊ณ  ํ•ด์„œ ๊ทธ ์กฐ๊ฑด์„ ์ •์‹ ์ง€ํ‘œ์— ๋ฐ˜์˜ํ•˜์ง€ ์•Š์•˜๋‹ค. ์ด์œ : "์šฐ๋ฆฌ ์ ์ˆ˜๊ฐ€ ์˜ค๋ฅด๋Š” ๋ฐฉํ–ฅ์œผ๋กœ ๊ณ„์† ํ•„ํ„ฐ๋ฅผ ์ถ”๊ฐ€"ํ•˜๋Š” ๊ฑด ์ธก์ • ๋ฒ„๊ทธ๋ฅผ ๊ณ ์น˜๋Š” ๊ฒŒ ์•„๋‹ˆ๋ผ ์›ํ•˜๋Š” ๊ฒฐ๊ณผ๊ฐ€ ๋‚˜์˜ฌ ๋•Œ๊นŒ์ง€ ์ง€ํ‘œ๋ฅผ ๋ฐ”๊พธ๋Š” ๊ฒƒ๊ณผ ๊ตฌ๋ถ„์ด ํ๋ ค์ง€๊ธฐ ์‹œ์ž‘ํ•˜๋Š” ์ง€์ ์ด๋‹ค. ๋ฌธ๋‹จ ๋‹จ์œ„ boilerplate ์ œ๊ฑฐ(ยง1)๋Š” "์™„์ „ํžˆ ๋™์ผํ•œ ๋ฌธ๋‹จ์€ ์• ์ดˆ์— ๊ฐœ์ธํ™” ๋น„๊ต ๋Œ€์ƒ์ด ์•„๋‹ˆ๋‹ค"๋ผ๋Š” ๊ฐ๊ด€์  ๊ธฐ์ค€์ด ์žˆ์–ด ์ •์‹ ๋ฐ˜์˜ํ–ˆ์ง€๋งŒ, "ํ—ค๋”๋„ ๋นผ์ž"๋Š” ๊ทธ ๋‹ค์Œ ๋‹จ๊ณ„๋ถ€ํ„ฐ๋Š” "์–ด๋””๊นŒ์ง€๊ฐ€ ๊ตฌ์กฐ๊ณ  ์–ด๋””๋ถ€ํ„ฐ๊ฐ€ ์ฝ˜ํ…์ธ ์ธ๊ฐ€"๊ฐ€ ์ฃผ๊ด€์  ํŒ๋‹จ์ด ๋˜๊ธฐ ์‹œ์ž‘ํ•œ๋‹ค. ๊ทธ๋ž˜์„œ ์ด๋ฒˆ์—” ๋ฌธ๋‹จ ๋‹จ์œ„ ์ˆ˜์ •๊นŒ์ง€๋งŒ ์ •์‹ ๋ฐ˜์˜ํ•˜๊ณ , ํ—ค๋” ์ œ๊ฑฐ ๊ฒฐ๊ณผ๋Š” ์ฐธ๊ณ  ์ˆ˜์น˜๋กœ๋งŒ ๋‚จ๊ฒจ๋‘”๋‹ค.

5. ์ตœ์ข… ๊ฒฐ๋ก 

Exhibit 4. v1 โ†’ v2 ๊ฒฐ๋ก  ๋ณ€ํ™”
v1 ๊ฒฐ๋ก v2 ๊ฒฐ๋ก 
"๊ฐœ์ธํ™” ์ง€ํ‘œ ์ตœํ•˜์œ„ โ€” ๋‹จ, ์ง€ํ‘œ ๋ฒ„๊ทธ์ผ ๊ฐ€๋Šฅ์„ฑ ์žˆ์–ด ์žฌ๊ฒ€์ฆ ํ•„์š”""๊ฐœ์ธํ™” ์ง€ํ‘œ๋Š” ์‹ค์ œ๋กœ ๋‚ฎ๋‹ค(0.68/1.0) โ€” ์›์ธ์€ ์ธก์ • ๋ฒ„๊ทธ๊ฐ€ ์•„๋‹ˆ๋ผ 10๊ฐœ ๋Œ€๋ถ„๋ฅ˜+๋‹ค๋‹จ๊ณ„ ์†Œ์ œ๋ชฉ์ด๋ผ๋Š” ๋ฆฌํฌํŠธ ๊ตฌ์กฐ ์ž์ฒด๊ฐ€ ๊ฒฝ์Ÿ์‚ฌ๋ณด๋‹ค ํ›จ์”ฌ ์ •๊ตํ•˜๊ณ  ๋ฐ˜๋ณต์ ์ด๊ธฐ ๋•Œ๋ฌธ"

์ด๊ฑด ์‚ฌ์‹ค "๋‚˜์œ ์†Œ์‹"์ด๋ผ๊ธฐ๋ณด๋‹ค ํŠธ๋ ˆ์ด๋“œ์˜คํ”„๋‹ค โ€” ๊ฐ™์€ ๊ตฌ์กฐ๋กœ ๋ฐ˜๋ณต๋˜๋Š” ๋ผˆ๋Œ€๊ฐ€ ์žˆ๊ธฐ ๋•Œ๋ฌธ์— ์šฐ๋ฆฌ๋Š” โ‘ ๋ถ„๋Ÿ‰(9,378์ž, 6.5๋ฐฐ) โ‘ก๊ตฌ์ฒด์„ฑ(77ํšŒ, 8.5๋ฐฐ) โ‘ข๊ทผ๊ฑฐ์ œ์‹œ(12์ข…, 12๋ฐฐ)์—์„œ ์••๋„์ ์œผ๋กœ ์•ž์„ค ์ˆ˜ ์žˆ์—ˆ๋‹ค(ยงv1 ยง3). ์ •๊ตํ•œ ๋ผˆ๋Œ€์™€ ์Šฌ๋กฏ ์กฐํ•ฉํ˜• ์ƒ์„ฑ์ด ๋ฐ€๋„์˜ ์›์ฒœ์ด๋ฉด์„œ ๋™์‹œ์— "๊ตฌ์กฐ์  ์œ ์‚ฌ๋„"์˜ ์›์ฒœ์ด๊ธฐ๋„ ํ•œ ๊ฒƒ โ€” ์ด ์ง€ํ‘œ ํ•˜๋‚˜๋งŒ ๋–ผ์–ด์„œ "๊ฐœ์ธํ™”๊ฐ€ ์•ฝํ•˜๋‹ค"๊ณ  ๊ฒฐ๋ก  ๋‚ด๋ฆฌ๋ฉด ์•ˆ ๋˜๊ณ , ๋ถ„๋Ÿ‰ยท๊ตฌ์ฒด์„ฑยท๊ทผ๊ฑฐ์ œ์‹œ์™€ ํ•จ๊ป˜ ํŠธ๋ ˆ์ด๋“œ์˜คํ”„๋กœ ์ฝ์–ด์•ผ ์ •ํ™•ํ•˜๋‹ค.

์‹ค์ œ๋กœ ์ฝ˜ํ…์ธ  ๋‚ด์šฉ ์ž์ฒด(์šฉ์‹ ยท์‹ ์‚ดยท๊ฒฉ๊ตญ ํŒ์ •, ์Šฌ๋กฏ ์„ ํƒ ๊ฒฐ๊ณผ)๊ฐ€ ์‚ฌ๋žŒ๋งˆ๋‹ค ํฌ๊ฒŒ ๋‹ค๋ฅด๋‹ค๋Š” ๊ฑด ์ด๋ฏธ ์ž์ฒด ๊ตฌ์ถ• ์ž์‚ฐ ์ธ๋ฒคํ† ๋ฆฌ ยงB์—์„œ ์žฌํ˜„์„ฑ(๊ฐ™์€ ์‚ฌ๋žŒ=๊ฐ™์€ ๊ฒฐ๊ณผ)๊ณผ ๋ณ„๊ฐœ๋กœ ํ™•์ธ๋œ ์‚ฌ์‹ค์ด๋‹ค โ€” ์ด๋ฒˆ ์ง€ํ‘œ๊ฐ€ ๋‚ฎ๊ฒŒ ๋‚˜์˜จ ๊ฑด "๋‚ด์šฉ์ด ์•ˆ ๋‹ฌ๋ผ์„œ"๊ฐ€ ์•„๋‹ˆ๋ผ "๋ผˆ๋Œ€๊ฐ€ ์ปค์„œ"๋ผ๋Š” ๊ฒŒ ์ด๋ฒˆ v2 ์กฐ์‚ฌ๋กœ ๋ถ„๋ฆฌ๋œ ๊ฒฐ๋ก ์ด๋‹ค.