Workspace Index › Knowledge Notes › Agentic systems need ontologies — validate types at the door, meaning at the ledger

#91PoC2026-09-19chat

Agentic systems need ontologies — validate types at the door, meaning at the ledger

Frank Coyle — described in the summary as a UC Berkeley professor — gave a talk titled "Why Agentic Systems Need Ontologies" at the AI Engineer conference (per the summary; talk length not given). His claim: LLM-driven agents are probabilistic and prone to drift, so a production agent needs a neuro-symbolic layer next to the neural network — formal rules plus a knowledge structure, an ontology — to catch what a natural-language prompt cannot (04:12, 04:32). The talk traces two lineages that meet in this idea: agents, in the McCarthy/Minsky sense of systems that cognize, decide and act (02:33, 03:06), and ontologies, defined by Tom Gruber as "a formal specification of a shared conceptualization" (03:42) — the entities, relations and attributes a domain agrees on (04:02, 05:30). It walks through how an ontology gets built and reasoned over, then lands on a concrete architecture: validate a tool call's types at the "door" with Pydantic, and validate its effect on domain state at the "ledger" with the ontology, before the call has a side effect (15:16–18:23). Three refund examples make the payoff concrete — a duplicate refund, a refund to the wrong party, a hallucinated status value — none of which a natural-language instruction reliably blocks (19:11–19:53).

For Jayverse this names the piece every "agent that touches money or state" plan is missing: type-checking a tool call is necessary but not sufficient, and the boundary needs a second gate that knows the domain's rules, not just its data types.

Why

An agent that can sequence, branch and loop over tool calls is Turing-complete, and Turing completeness is exactly what makes it unpredictable — nothing in the architecture stops an infinite loop, a conversation drifting away from its original goal, or a chain of calls running up unbounded token cost (12:46, 13:47). Pydantic-style type validation at the input catches malformed calls, not wrong ones: a well-typed call can still refund the wrong person, refund the same order twice, or set a status that does not exist in the domain. That gap between well-typed and correct is what a rule-based domain model closes, and it has to close it before the call has a side effect, not after — an agent that writes to a database or moves money does not get the luxury of a post-hoc review.

How it works

Two lineages, one guardrail: agents, ontologies and neuro-symbolic AI

Agents and ontologies are old, separate ideas that this talk pairs up. Agents go back to McCarthy and Minsky: systems that perceive, decide and act (02:33, 03:06). Ontologies go back to knowledge representation and Tom Gruber's 1993 definition, "a formal specification of a shared conceptualization" (03:42) — a structure of the entities, relationships and attributes an organization or domain actually uses (04:02, 05:30). Neuro-symbolic AI is the marriage: a neural network that can hallucinate, paired with a rule-based knowledge graph or ontology that constrains what it is allowed to conclude or do (04:12, 04:54). The ontology is not a nice-to-have documentation artifact here — it's the part of the system that is supposed to be right when the model is only supposed to be probably right.

Building an ontology: top-down, bottom-up, standards

The talk gives three ways to get one. Top-down: domain experts define the entities (an Order, a Customer) and their relationships directly, which is the same move 1980s expert systems made (06:25). Bottom-up: mine entities and relationships out of operational data, such as logs of customer interactions, rather than asking anyone to write them down (08:01). Or borrow: reuse an existing standard vocabulary — Schema.org, FOAF, DBpedia — instead of inventing one (08:16, 08:55). In practice these combine: standards for the common vocabulary, top-down for the domain-specific core, bottom-up to keep it honest against what the system actually sees.

RDFS/OWL reasoning: domain and range, transitive, functional properties

Once entities and relationships exist, RDFS and OWL add inference and validation on top of the graph (09:24, 12:07). Domain and range let the reasoner work backward from a single fact: told only "Bob teaches Scooter," it infers Bob is a teacher (and a person) and Scooter is a student, because "teaches" is declared to run from teachers to students (10:11). Transitive properties propagate a relationship along a chain — an ancestor relation from A to B and B to C implies A to C (10:49). Functional properties assert a relationship must resolve to exactly one value; the example given is a biological father, which lets the reasoner flag a contradiction or recognize that two records describe the same entity when the constraint would otherwise be violated (11:23). None of this is exotic: it's the same domain/range, transitive and functional building blocks description logic has always had, applied to whatever an agent is about to do.

The agent loop's three risks, and two gates: door and ledger

Giving an agent the ability to sequence, branch on conditions and loop over tool calls makes it Turing-complete — and buys three specific risks along with the power: infinite loops, drift away from the original context mid-conversation, and unbounded token cost (12:46, 13:47). The talk's fix is architectural, not a better prompt. An LLM never executes a tool directly; it only ever generates the parameters for a call, so something has to sit in the middle and mediate every call (15:16, 16:08). That middle layer gets two gates. At the door, Pydantic validates the tool call's input types strictly — is this a number, is that a string, before anything runs (18:14, 18:23). At the ledger, before a tool's result or an agent's decision is allowed to change domain state, an ontology reasoner or validator checks it for logical consistency (16:51, 18:23). The door catches malformed requests; the ledger catches well-formed ones that are still wrong.

Three refunds a prompt would miss

The talk grounds all of this in one domain — refunds — because natural-language instructions fail there in specific, repeatable ways that OWL constraints catch (19:11, 19:53):

A duplicate refund on the same order, blocked by a uniqueness constraint (19:11).
A refund routed to a support rep instead of the buyer, blocked by declaring Customer and Support Rep disjoint classes (19:26).
An invented status value, blocked by declaring status an enumeration — paid, shipped, refunded and nothing else, so a hallucinated "probably shipped" has nowhere to land (19:34).

Coyle's framing, per the summary: an agent that is going to be trusted with real side effects — a database update, a financial transaction — needs this symbolic validation layer, because the agent itself is only ever probabilistic (18:23, 20:03).

Where it lands in Jayverse

Rabbit: the EIP-7715 mandate enforcers are the ledger-side validator. A session-key mandate's cap, expiry and allowed-target list are already OWL-like constraints written in Solidity instead of RDFS; a disjoint-class rule such as "payer ≠ payee's support agent" has a direct analogue in "the address you're paying is not an address you also operate."
Verex: market status is an enumeration, resolution is a functional property. A market's status field should hold only one of a fixed set of values, never a hallucinated in-between state, and resolution is functional by construction — one outcome per market, and a second write should fail the same way a functional-property violation would.
Auditor: "by which rule" is the ontology. The rules the Auditor checks against belong in a schema or a graph, not in a paragraph of prose — store them as data so the check is something that runs, not something that's read.
Theory: domain/range, transitive and functional properties are description logic. Worth its own entry next to the scheduling notes — these three constraint types are the textbook building blocks of description logic, and the refund examples are a working illustration of each.
Dark Horse: the ontology is the machine-checkable half of a boundary (e) file. A boundary doc says what's out of bounds in prose; an ontology-shaped validator is the part of that boundary that a call actually has to pass before it executes.

Verified and unverified

Verified on 2026-09-19: Tom Gruber's 1993 definition of an ontology ("a formal specification of a shared conceptualization") is a real, widely cited definition; RDFS and OWL are W3C standards that define domain/range inference, transitive properties, functional properties and disjoint classes; Schema.org, FOAF and DBpedia exist as published vocabularies and knowledge bases; Pydantic validates Python types at runtime; "neuro-symbolic AI" is an established term for combining neural networks with rule-based or symbolic systems. Taken from the summary and not independently checked: the talk's existence, exact length and venue beyond the linked video, the attribution to Frank Coyle as a UC Berkeley professor (stated here per the summary only, no further biography checked), every timestamp, the worked examples (the teaching, ancestor and biological-father illustrations, the three refund scenarios), and the closing line "Nothing is a mistake, only make," quoted as given.

Sources: YouTube — Why Agentic Systems Need Ontologies (AI Engineer conference talk, per the summary) · related items: Tech #62 (agentic engineering writes the boundaries), Tech #102 (mlflow-tracing-llm-as-judge — evaluation after the fact vs. validation before the side effect), Tech (pocock-fundamentals-matter-more).

Key expressions

Words and phrases from this page worth keeping, with the Korean meaning and the sentence they come from.

Expression	뜻 · 쓰이는 자리
ontology	온톨로지(도메인의 엔티티·관계·속성을 formal하게 정의한 구조) · 이 항목 전체의 핵심 개념. "a formal specification of a shared conceptualization"
neuro-symbolic AI	뉴로-심볼릭 AI(신경망과 규칙 기반 시스템의 결합) · 온톨로지가 신경망의 가드레일로 쓰이는 접근 전체를 가리킴. "a neuro-symbolic layer next to the neural network"
formal specification	형식적 명세(모호함 없이 규칙으로 적은 정의) · 그루버의 온톨로지 정의에서. "a formal specification of a shared conceptualization"
top-down / bottom-up	하향식 / 상향식(전문가가 정의 대 데이터에서 추출) · 온톨로지를 만드는 두 반대 방법. "mine entities and relationships out of operational data"
domain and range	정의역과 공역(관계가 어떤 타입에서 어떤 타입으로 가는지 제약) · 한 문장만으로 역추론하게 해주는 OWL 개념. "Domain and range let the reasoner work backward from a single fact"
transitive property	이행 속성(A→B, B→C면 A→C가 성립) · 조상 관계 같은 연쇄 추론에 쓰임. "Transitive properties propagate a relationship along a chain"
functional property	함수적 속성(관계가 정확히 하나의 값으로만 귀결) · 모순 검출·동일 개체 식별에 쓰임. "Functional properties assert a relationship must resolve to exactly one value"
disjoint class	서로소 클래스(두 클래스가 절대 겹치지 않는다는 선언) · 환불이 상담원에게 가는 걸 막는 제약. "declaring `Customer` and `Support Rep` disjoint classes"
Turing-complete	튜링 완전(순차·조건·반복을 가지면 이론상 무엇이든 계산 가능) · 에이전트가 예측 불가능해지는 이유로 언급됨. "An agent that can sequence, branch and loop over tool calls is Turing-complete"
drift	(맥락) 탈선·표류 · 대화가 원래 목표에서 벗어나는 현상. "a conversation drifting away from its original goal"
hallucination	환각(모델이 사실이 아닌 것을 그럴듯하게 생성) · 신경망에 심볼릭 검증이 필요한 이유. "a neural network that can hallucinate"
guardrail	가드레일(범위를 벗어나지 못하게 막는 안전장치) · 온톨로지가 신경망에 대해 하는 역할. "Two lineages, one guardrail"
side effect	부작용(호출이 도메인 상태를 실제로 바꾸는 효과) · 검증이 반드시 이보다 먼저 끝나야 한다는 맥락. "before the call has a side effect"
enumeration (enum)	열거형(정해진 값 목록만 허용) · 상태값 환각을 막는 제약. "declaring status an enumeration"
description logic	기술 논리(온톨로지 추론의 형식 논리 기반) · domain/range, 이행, 함수적 속성이 여기서 나온 개념. "description logic has always had"
door / ledger	입구 / 원장(이 항목이 쓰는 두 단계 검증 지점의 비유) · 입구=타입 검증, 원장=의미 검증. "validate a tool call's types at the "door" with Pydantic"
RDFS	Resource Description Framework Schema(자원 기술 프레임워크 스키마) · 그래프에 추론을 더하는 W3C 표준 중 하나. "RDFS and OWL add inference and validation on top of the graph"
OWL	Web Ontology Language(웹 온톨로지 언어) · domain/range, 이행·함수적 속성, disjoint 클래스를 표현하는 W3C 표준. "repeatable ways that OWL constraints catch"
LLM	Large Language Model(거대 언어 모델) · 확률적이고 탈선하기 쉬운, 이 항목이 검증 계층을 요구하는 대상. "LLM-driven agents are probabilistic and prone to drift"
Pydantic	파이썬 런타임 타입 검증 라이브러리 · "입구" 단계에서 도구 호출의 타입을 검증하는 도구. "Pydantic validates the tool call's input types strictly"

← All Knowledge Notes · Workspace Index · Top ↑

에이전틱 시스템에는 온톨로지가 필요하다 — 입구에서는 타입을, 원장에서는 의미를 검증하라

프랭크 코일(Frank Coyle) — 요약에서는 UC 버클리 교수로 소개된다 — 이 AI Engineer 컨퍼런스에서 "Why Agentic Systems Need Ontologies"라는 강연을 했다(요약 기준; 강연 길이는 언급되지 않음). 주장은 이렇다. LLM 기반 에이전트는 확률적으로 동작하고 탈선(drift)하기 쉬우므로, 실제 서비스에 쓰는 에이전트는 신경망 옆에 뉴로-심볼릭 계층 — 형식적 규칙과 지식 구조인 온톨로지 — 을 두어야 자연어 프롬프트만으로는 못 잡는 것을 잡는다(04:12, 04:32). 강연은 이 생각에서 만나는 두 계보를 짚는다. 에이전트는 매카시·민스키 시절의, 인지하고 결정하고 행동하는 시스템이라는 의미이고(02:33, 03:06), 온톨로지는 톰 그루버(Tom Gruber)가 정의한 "공유된 개념화에 대한 형식적 명세"(03:42) — 한 도메인이 합의한 엔티티·관계·속성의 구조다(04:02, 05:30). 강연은 온톨로지를 어떻게 만들고 추론하는지 짚은 뒤, 구체적인 아키텍처로 착지한다. 도구 호출의 타입은 "입구"에서 Pydantic으로, 그 호출이 도메인 상태에 미치는 효과는 "원장"에서 온톨로지로, 부작용이 나기 전에 검증한다(15:16–18:23). 중복 환불, 잘못된 상대에게 간 환불, 존재하지 않는 상태값 환각 — 세 가지 환불 예시가 이 논리를 구체화한다. 자연어 지시만으로는 어느 것도 믿을 만하게 막지 못한다(19:11–19:53).

Jayverse에서 이것은 "돈이나 상태를 건드리는 에이전트" 계획마다 빠져 있던 조각의 이름이다. 도구 호출의 타입 검사는 필요하지만 충분하지 않고, 경계에는 데이터 타입뿐 아니라 도메인의 규칙을 아는 두 번째 문이 필요하다.

왜

순차·조건·반복으로 도구 호출을 엮을 수 있는 에이전트는 튜링 완전하고, 바로 그 튜링 완전성이 예측 불가능성의 원인이다. 아키텍처 어디에도 무한 루프, 대화 중간의 맥락 탈선, 한도 없는 토큰 비용을 막는 장치가 없다(12:46, 13:47). Pydantic류의 입력 타입 검증은 형식이 틀린 호출은 잡아도 틀린 내용의 호출은 못 잡는다. 타입이 다 맞아도 엉뚱한 사람에게 환불하거나, 같은 주문을 두 번 환불하거나, 도메인에 존재하지 않는 상태값을 넣을 수 있다. 형식적으로 맞음과 옳음 사이의 이 틈을 메우는 것이 규칙 기반 도메인 모델이고, 이 검증은 호출이 부작용을 내기 전에 이뤄져야지 나중이면 늦다 — DB에 쓰거나 돈을 움직이는 에이전트에게는 사후 검토라는 여유가 없다.

동작 방식

두 계보, 하나의 가드레일: 에이전트, 온톨로지, 뉴로-심볼릭 AI

에이전트와 온톨로지는 이 강연이 짝지은, 오래되고 서로 다른 두 개념이다. 에이전트는 매카시와 민스키까지 거슬러 올라간다. 지각하고 결정하고 행동하는 시스템(02:33, 03:06). 온톨로지는 지식 표현과 그루버의 1993년 정의까지 거슬러 올라간다. "공유된 개념화에 대한 형식적 명세"(03:42) — 조직이나 도메인이 실제로 쓰는 엔티티·관계·속성의 구조다(04:02, 05:30). 뉴로-심볼릭 AI는 이 둘의 결합이다. 환각할 수 있는 신경망에, 그것이 결론 내리거나 행동할 수 있는 범위를 제약하는 규칙 기반 지식 그래프·온톨로지를 짝지운다(04:12, 04:54). 여기서 온톨로지는 있으면 좋은 문서 산출물이 아니라, 모델은 그저 "아마 맞음" 수준일 때 시스템에서 실제로 맞아야 하는 부분이다.

온톨로지 구축: 하향식, 상향식, 표준

강연은 세 가지 방법을 든다. 하향식: 도메인 전문가가 엔티티(주문, 고객)와 관계를 직접 정의한다. 1980년대 전문가 시스템과 같은 방식이다(06:25). 상향식: 고객 상호작용 로그 같은 운영 데이터에서 엔티티·관계를 추출한다. 누군가 적어주길 기다리지 않는다(08:01). 혹은 차용: Schema.org, FOAF, DBpedia 같은 기존 표준 어휘를 새로 만들지 않고 재사용한다(08:16, 08:55). 실제로는 이 셋이 섞인다. 공통 어휘는 표준으로, 도메인 고유의 핵심은 하향식으로, 시스템이 실제로 보는 것과 맞는지는 상향식으로 확인한다.

RDFS/OWL 추론: domain·range, 이행 속성, 함수적 속성

엔티티와 관계가 갖춰지면 RDFS와 OWL이 그래프 위에 추론과 검증을 더한다(09:24, 12:07). domain과 range는 단 하나의 사실만으로 역추론하게 해준다. "Bob teaches Scooter"라는 말만으로도, "teaches"가 교사에서 학생으로 가는 관계라고 선언돼 있으므로 Bob이 교사(이자 사람)이고 Scooter가 학생임을 추론한다(10:11). 이행 속성은 관계를 연쇄를 따라 전파한다. A에서 B로, B에서 C로 가는 조상 관계는 A에서 C로도 성립한다(10:49). 함수적 속성은 어떤 관계가 정확히 하나의 값으로만 귀결돼야 한다고 못박는다. 예시는 친부 관계다 — 이 제약 덕분에 추론기는 모순을 잡아내거나, 제약이 깨질 상황이면 두 레코드가 같은 개체를 가리킨다고 알아챌 수 있다(11:23). 특별할 것은 없다. 기술 논리(description logic)가 원래 갖고 있던 domain/range, 이행, 함수적 속성이라는 같은 구성 요소를, 에이전트가 막 하려는 일에 적용할 뿐이다.

에이전트 루프의 세 리스크, 그리고 두 개의 문: 입구와 원장

도구 호출을 순차·조건·반복으로 엮을 수 있게 하면 에이전트는 튜링 완전해지고, 그 힘과 함께 구체적인 리스크 세 가지가 따라온다. 무한 루프, 대화 중간의 맥락 탈선, 한도 없는 토큰 비용(12:46, 13:47). 강연의 해법은 더 나은 프롬프트가 아니라 아키텍처다. LLM은 도구를 직접 실행하지 않는다. 호출을 위한 파라미터만 생성할 뿐이므로, 중간에서 모든 호출을 중계·제어하는 무언가가 있어야 한다(15:16, 16:08). 그 중간 계층에 두 개의 문이 있다. 입구에서는 Pydantic이 도구 호출의 입력 타입을 엄격히 검증한다. 숫자인지, 문자열인지, 실행되기 전에(18:14, 18:23). 원장에서는 도구 결과나 에이전트의 결정이 도메인 상태를 바꾸도록 허용되기 전에, 온톨로지 추론기·검증기가 논리적 정합성을 확인한다(16:51, 18:23). 입구는 형식이 틀린 요청을 잡고, 원장은 형식은 맞지만 내용이 틀린 요청을 잡는다.

프롬프트가 놓치는 세 가지 환불, OWL은 잡는다

강연은 이 전부를 환불이라는 한 도메인에 근거해서 보여준다. 자연어 지시가 구체적이고 반복 가능한 방식으로 실패하는 자리이기 때문이다. OWL 제약은 이걸 잡는다(19:11, 19:53).

같은 주문에 대한 중복 환불 — 단일성 제약으로 차단(19:11).
구매자가 아니라 상담원에게 가는 환불 — Customer와 Support Rep를 서로소(disjoint) 클래스로 선언해 차단(19:26).
지어낸 상태값 — 상태를 열거형으로 선언해 차단. paid, shipped, refunded뿐이고 그 외는 없으니, 환각으로 나온 "아마 배송됨" 같은 값은 들어갈 자리가 없다(19:34).

코일의 표현을 빌리면(요약 기준), DB 갱신이나 금융 거래 같은 실제 부작용을 맡길 에이전트에게는 이 심볼릭 검증 계층이 필수다. 에이전트 자신은 언제나 확률적일 뿐이기 때문이다(18:23, 20:03).

Jayverse에서의 위치

Rabbit: EIP-7715 mandate enforcer가 곧 원장 측 검증기다. 세션 키 mandate의 한도, 만료, 허용 대상 목록은 이미 RDFS 대신 Solidity로 쓰인 OWL류 제약이다. "지불자 ≠ 수취인의 상담 에이전트" 같은 disjoint 규칙에는 "지불하는 주소가 내가 운영하는 주소가 아니다"라는 직접적인 대응물이 있다.
Verex: 마켓 상태는 열거형이고, 정산은 함수적 속성이다. 마켓의 status 필드는 정해진 값 집합 중 하나만 가져야지 환각으로 나온 중간 상태를 가지면 안 되고, 정산은 애초에 함수적이다 — 마켓당 결과 하나이며, 두 번째 쓰기는 함수적 속성 위반과 같은 방식으로 실패해야 한다.
Auditor: "어떤 규칙으로"가 곧 온톨로지다. Auditor가 대조하는 규칙은 산문 문단이 아니라 스키마나 그래프, 즉 데이터로 있어야 한다. 그래야 검사가 읽는 것이 아니라 돌리는 것이 된다.
Theory: domain/range, 이행 속성, 함수적 속성은 기술 논리다. 이미 있는 스케줄링 노트 옆에 자기 항목을 둘 만하다. 이 세 제약 유형은 기술 논리의 교과서적 구성 요소이고, 환불 예시들은 각각의 살아 있는 예다.
Dark Horse: 온톨로지는 경계 (e) 파일의 기계 검증 가능한 절반이다. 경계 문서는 산문으로 무엇이 범위 밖인지 말하고, 온톨로지 형태의 검증기는 호출이 실행되기 전에 실제로 통과해야 하는 그 경계의 나머지 절반이다.

확인된 것과 미확인

2026-09-19 확인: 톰 그루버의 1993년 온톨로지 정의("공유된 개념화에 대한 형식적 명세")는 실제로 널리 인용되는 정의다. RDFS와 OWL은 domain/range 추론, 이행 속성, 함수적 속성, disjoint 클래스를 정의하는 W3C 표준이다. Schema.org, FOAF, DBpedia는 실재하는 공개 어휘·지식베이스다. Pydantic은 런타임에 파이썬 타입을 검증한다. "뉴로-심볼릭 AI"는 신경망과 규칙 기반·심볼릭 시스템을 결합하는 접근을 가리키는 확립된 용어다. 요약에서 가져왔고 독립적으로 확인하지 않은 것: 강연의 존재·정확한 길이·컨퍼런스 정보(링크된 영상 외에는), 프랭크 코일을 UC 버클리 교수로 보는 소속 정보(요약에만 근거하며 그 외 이력은 확인하지 않음), 모든 타임스탬프, 예시들(교사 관계, 조상 관계, 친부 관계, 세 가지 환불 시나리오), 그리고 인용된 그대로 옮긴 마무리 문구 "Nothing is a mistake, only make".

출처: YouTube — Why Agentic Systems Need Ontologies (AI Engineer 컨퍼런스 강연, 요약 기준) · 관련 항목: Tech #62(에이전틱 엔지니어링은 경계를 쓴다), Tech #102(mlflow-tracing-llm-as-judge — 사후 평가 대 부작용 이전 검증), Tech(pocock-fundamentals-matter-more).

핵심 표현

이 페이지의 영어 본문에서 배울 만한 단어와 표현, 뜻과 나온 자리.

Expression	뜻 · 쓰이는 자리
ontology	온톨로지(도메인의 엔티티·관계·속성을 formal하게 정의한 구조) · 이 항목 전체의 핵심 개념. "a formal specification of a shared conceptualization"
neuro-symbolic AI	뉴로-심볼릭 AI(신경망과 규칙 기반 시스템의 결합) · 온톨로지가 신경망의 가드레일로 쓰이는 접근 전체를 가리킴. "a neuro-symbolic layer next to the neural network"
formal specification	형식적 명세(모호함 없이 규칙으로 적은 정의) · 그루버의 온톨로지 정의에서. "a formal specification of a shared conceptualization"
top-down / bottom-up	하향식 / 상향식(전문가가 정의 대 데이터에서 추출) · 온톨로지를 만드는 두 반대 방법. "mine entities and relationships out of operational data"
domain and range	정의역과 공역(관계가 어떤 타입에서 어떤 타입으로 가는지 제약) · 한 문장만으로 역추론하게 해주는 OWL 개념. "Domain and range let the reasoner work backward from a single fact"
transitive property	이행 속성(A→B, B→C면 A→C가 성립) · 조상 관계 같은 연쇄 추론에 쓰임. "Transitive properties propagate a relationship along a chain"
functional property	함수적 속성(관계가 정확히 하나의 값으로만 귀결) · 모순 검출·동일 개체 식별에 쓰임. "Functional properties assert a relationship must resolve to exactly one value"
disjoint class	서로소 클래스(두 클래스가 절대 겹치지 않는다는 선언) · 환불이 상담원에게 가는 걸 막는 제약. "declaring `Customer` and `Support Rep` disjoint classes"
Turing-complete	튜링 완전(순차·조건·반복을 가지면 이론상 무엇이든 계산 가능) · 에이전트가 예측 불가능해지는 이유로 언급됨. "An agent that can sequence, branch and loop over tool calls is Turing-complete"
drift	(맥락) 탈선·표류 · 대화가 원래 목표에서 벗어나는 현상. "a conversation drifting away from its original goal"
hallucination	환각(모델이 사실이 아닌 것을 그럴듯하게 생성) · 신경망에 심볼릭 검증이 필요한 이유. "a neural network that can hallucinate"
guardrail	가드레일(범위를 벗어나지 못하게 막는 안전장치) · 온톨로지가 신경망에 대해 하는 역할. "Two lineages, one guardrail"
side effect	부작용(호출이 도메인 상태를 실제로 바꾸는 효과) · 검증이 반드시 이보다 먼저 끝나야 한다는 맥락. "before the call has a side effect"
enumeration (enum)	열거형(정해진 값 목록만 허용) · 상태값 환각을 막는 제약. "declaring status an enumeration"
description logic	기술 논리(온톨로지 추론의 형식 논리 기반) · domain/range, 이행, 함수적 속성이 여기서 나온 개념. "description logic has always had"
door / ledger	입구 / 원장(이 항목이 쓰는 두 단계 검증 지점의 비유) · 입구=타입 검증, 원장=의미 검증. "validate a tool call's types at the "door" with Pydantic"
RDFS	Resource Description Framework Schema(자원 기술 프레임워크 스키마) · 그래프에 추론을 더하는 W3C 표준 중 하나. "RDFS and OWL add inference and validation on top of the graph"
OWL	Web Ontology Language(웹 온톨로지 언어) · domain/range, 이행·함수적 속성, disjoint 클래스를 표현하는 W3C 표준. "repeatable ways that OWL constraints catch"
LLM	Large Language Model(거대 언어 모델) · 확률적이고 탈선하기 쉬운, 이 항목이 검증 계층을 요구하는 대상. "LLM-driven agents are probabilistic and prone to drift"
Pydantic	파이썬 런타임 타입 검증 라이브러리 · "입구" 단계에서 도구 호출의 타입을 검증하는 도구. "Pydantic validates the tool call's input types strictly"

← 전체 기술 노트 · 워크스페이스 인덱스 · 맨 위 ↑