ai-research-harness의 네 장치를 글이 아니라 조작으로 확인하는 페이지.
숫자키 0~4로 탭을 옮긴다.
demo/00_설계목표.md에 있다.
문서 에이전트와 코드 에이전트는 서로 다른 디렉토리에서 돌고, 파일로만 오간다. 두 루프가 공통으로 따르는 규칙이 아래 네 장치이고, 각각을 뒤의 탭에서 직접 조작해 본다.
| 장치 | 무엇을 막나 | 여기서 보는 것 | |
|---|---|---|---|
| 오답노트 | 테스트를 통과한 채로 틀린 그림 | 틀린 판에서도 값·단위 검사는 ✓. 실패는 대조 검사에서만 | |
| 포맷별 역할 | 결론인지 탐색인지 모호한 산출물 | .png로는 답할 수 없는 네 가지 조작 | |
| 용어 장부 | AI가 지어낸 말 · 두 뜻으로 쓰인 말 | AI가 쓴 문단을 장부와 대조. 직접 고쳐 볼 수 있다 | |
| 승인 게이트 | AI 기본값이 판단을 대신하는 것 | 같은 요청을 게이트 없이 / 있게 돌려 본다 |
각 패턴에서 틀린 판 / 고친 판을 바꿔가며 본다. 그림보다 오른쪽 검사 결과 칸을 볼 것 — 틀린 판에서도 값·단위 검사는 통과한다. 실패는 대조 검사에서만 난다.
회색 띠 = "이 구간엔 사건 없음"이라고 칠한 음영. 세로선 = 실제 사건. 틀린 판에서는 음영 위에 사건이 찍혀 있다 — 음영 기준과 데이터가 서로 다른 값을 쓰고 있었다.
왜 안 걸렸나: 음영과 데이터가 각각은 맞다. 둘을 대조하는 검사가
없었다.
규칙: 배경 표시의 기준값은 그림이 그리는 데이터에서 뽑는다.
따로 적어두지 않는다.
단일 출처 상수는 범주 A = 붉은색, 범주 B = 청색. 틀린 판에서는 둘이 뒤바뀌었고, 게다가 범주가 아닌 것(값의 부호)에 같은 두 색을 재사용해 독자가 범주로 읽게 됐다.
왜 안 걸렸나: 색은 검사 대상이 아니었다. 그림은 정상적으로 나왔다.
고친 비용: 상수 두 줄. 단일 출처가 아니었으면 쓰인 곳 전부를 고쳐야 했다.
두 대상의 10주기 기록. 겹친 판에서는 둘이 거의 같아 보인다. 나눈 판(세로축 = 주기)에서 보면 하나는 1주기에만, 다른 하나는 매 주기 사건이 있다.
왜 안 걸렸나: 겹친 그림도 정보 손실 없이 그려진다. 손실은
독자 쪽에서 생긴다.
검출: 자동화 안 됨 — 설계 단계 판단이다. 그래서 규칙으로 고정한다:
반복 단위는 나눠 그리는 것이 기본.
.png으로 답할 수 없는 질문이 남아 있을 때아래 네 동작은 전부 "내가 지금 보는 것이 맞나"를 확인하는 것이다. 결론을 만드는 게 아니라 결론 후보를 떨어뜨리는 데 쓴다.
드래그 = 구간 확대 · 더블클릭 = 전체로 · 마우스를 올리면 그 점의 값을 읽는다 |
| 동작 | 답하는 질문 | .png이면 |
|---|---|---|
| 조건 켜고 끄기 | 이 차이가 조건 때문인가 | 조합마다 한 장씩 미리 굽는다 |
| 구간 확대 | 뭉쳐 보이는 저 안은 어떤가 | 해상도에 막힌다 |
| 값 읽기 | 저 점이 정확히 몇인가 | 읽을 수 없다 |
| 구간 통계 | 눈에 보이는 차이가 수치로도 나오나 | 따로 계산해야 한다 |
그래서 .html은 결론이 아니다. 여기서 본 것은
.md(해석)나 .png(확정)로 옮겨 적기 전까지 기록이 아니다.
뷰어를 열어 확인하고 끝내면 다음 주에 같은 것을 다시 연다.
아래는 AI가 쓴 것처럼 만든 가상 문단이다. 문장은 매끄럽고 숫자도 틀리지 않았다. 장부와 대조하면 무엇이 올라오는지 본다. 문단은 직접 고칠 수 있다.
AI가 표준 용어를 스스로 정하지 않는다. 바꿀 말이 장부에 있으면 바꾸고,
없거나 뜻이 갈리면 사람 앞에 올린다.
못 잡는 것: 장부에 아예 없는 새 말. AI는 자기가 만든 말인지 모른다 — 그래서
이 대조는 통제 장치가 아니라 통과 지점이다.
같은 요청 — "분석해 줘" 한 마디 — 를 게이트 없이, 그리고 게이트를 두고 돌려 본다. 끝났을 때 파일에 무엇이 남았는지를 비교한다.
"왜 이 값인가"에 파일로 답할 수 있는지가 차이다. 게이트 없는 쪽은 결과가 더
빨리 나오지만, 판정 구간이 왜 그 값인지는 대화에만 있다.
게이트를 늘리지 않는다. 전부 물으면 사람이 전부 승인하게 되고, 그러면 게이트가
죽는다. 되돌리기 비싼 곳에만 넷.