레벨 4: 적응형 범용 에이전트 - 아키텍처 & 설계¶

MSCP 레벨 시리즈 | 레벨 3 ← 레벨 4 → 레벨 4.5
상태: 🔬 실험적 - 개념적 프레임워크 및 실험적 설계. 프로덕션 사양이 아닙니다.
날짜: 2026년 2월

Revision History¶

1. 개요¶

레벨 4는 고정 역량 집합의 조절에서 평가된 역량·전략 진화로 전환하는 단계입니다. 전이 기술, 역량 후보, 전략 변경을 제안할 수 있지만 자신의 확장을 스스로 허가할 수는 없습니다. 모든 후보는 상속된 헌장 안에서 외부 승인, 격리 평가, version-pinned 승격, 한정 모니터링, 복구 가능한 롤백을 거칩니다.

Level Essence. 레벨 4 에이전트는 후보가 선언된 안전 envelope를 위반하지 않으면서 held-out domain task 성능을 개선한다는 증거를 생성합니다:

\[ \operatorname{LCB}_{1-\alpha}(\operatorname{TransferGain})>\theta_{\text{transfer}} \quad\land\quad \operatorname{admit}_{\kappa}(c)=\textit{allow} \quad\land\quad \operatorname{envelope}(c,H)=\textit{pass} \]

여기서 \(c\)는 typed candidate이고 \(H\)는 유한 평가 horizon이며 lower confidence bound는 사전 등록된 held-out task에서 계산합니다. 통과는 유한 증거이지 open-ended generalization이나 안전 보장이 아닙니다.

⚠️ 참고: 이 문서는 MSCP 분류 체계 내의 인지 수준을 설명합니다. 여기서의 능력 확장, 전략 진화 및 자기수정 메커니즘은 실험적 설계입니다. 안전 불변량은 명시되어 있지만 프로덕션 환경에서는 아직 검증되지 않았습니다.

1.1 정의 속성¶

1.2 다섯 가지 핵심 능력¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart TD
  classDef cap fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef foundation fill:#DFF6DD,stroke:#107C10,color:#323130

  subgraph L4Caps["레벨 4: 다섯 가지 핵심 능력"]
    C1["1. 교차 도메인<br/>전이 학습<br/>CDTS >= 0.6"]:::cap
    C2["2. 장기<br/>자율 목표<br/>GPI >= 0.3"]:::cap
    C3["3. 능력<br/>확장<br/>CAR > 0"]:::cap
    C4["4. 전략<br/>진화<br/>SEF > 1.0"]:::cap
    C5["5. 제한된<br/>자기수정<br/>BGSS >= 0.7"]:::cap
  end

  subgraph Foundation["레벨 3 MSCP v4 기반"]
    F1["Versioned L3 아키텍처"]:::foundation
    F2["한정 메타조절"]:::foundation
    F3["윤리적 커널 Layer 0+1"]:::foundation
    F4["조건부 위험 모니터링"]:::foundation
    F5["항상성 안전"]:::foundation
  end

  Foundation ==>|"모든 기존 메커니즘<br/>보존"| L4Caps

2. 핵심 지표¶

레벨 4는 지속적으로 충족되어야 하는 다섯 가지 정량적 지표를 도입합니다.

정의 1 (레벨 4 에이전트). 레벨 4 에이전트는 governed candidate evaluation·promotion system으로 \(\mathcal{A}_3\)를 확장합니다:

\[\mathcal{A}_4 = \mathcal{A}_3 \oplus \langle \mathcal{D}, \mathcal{K}_{\text{transfer}}, \Sigma, \mu, \mathcal{P}_{\text{mod}} \rangle\]

여기서 \(\mathcal{D}\)는 versioned capability registry, \(\mathcal{K}_{\text{transfer}}\)는 transfer candidate 제안기, \(\Sigma\)는 versioned strategy registry, \(\mu\)는 외부 승인 capability pipeline, \(\mathcal{P}_{\text{mod}}\)는 격리 평가와 transaction rollback을 가진 수정 불가능한 promotion protocol입니다.

2.1 지표 정의¶

정의 2 (교차 도메인 전이 점수). CDTS는 에이전트가 알려진 도메인의 지식을 새로운 도메인에 적용하는 능력을 측정합니다:

held-out domain/task를 사전 등록하고, \(\epsilon_b>0\)로 분모를 보호하며, \(\omega_d\)로 domain-count imbalance를 방지합니다. CDTS와 함께 confidence interval, negative transfer, task-selection policy, absolute performance를 보고해야 합니다. 단일 임계값은 generality를 성립시키지 않습니다.

정의 3 (목표 진행 지수). GPI는 장기 목표를 향한 지속적 진행을 측정합니다:

여기서 \(G_{\text{long}}\)은 지평 \(> 7\)일인 목표의 집합이고 \(T\)는 평가 기간입니다.

정의 4 (능력 습득률). CAR은 에이전트가 새로운 기술을 습득하는 효율성을 측정합니다:

여기서 \(S_{\text{acquired}}(T)\)는 시점 \(T\)에서의 기술 집합, \(S_{\text{initial}}\)은 초기 기술 집합, \(\overline{\text{cost}}\)는 평균 습득 비용(연산량 또는 주기 단위)입니다.

정의 5 (전략 진화 인자). SEF는 전략 변이가 순 개선을 산출하는지 검증합니다:

값 \(> 1.0\)은 변이가 진동 노이즈 \(\sigma_{\text{oscillation}}\)을 넘어 성능을 개선했음을 확인합니다.

정의 6 (제한된 성장 안전 점수). BGSS는 성장이 에이전트를 불안정하게 만들지 않도록 보장합니다:

여기서 \(Z_i\)는 의미적 표류, 보정 residual, 불변식 위반, 롤백 빈도, negative transfer, 예산 압력, 관측 범위 같은 versioned growth-risk signal입니다. BGSS는 정책 입력과 모니터링 요약이며 안전을 증명하거나 승격을 독립적으로 허가하지 않습니다.

2.2 지표 관계¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart TD
  classDef growth fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef persist fill:#FFE8C8,stroke:#EF6C00,color:#323130
  classDef safety fill:#FDE7E9,stroke:#D13438,color:#323130
  classDef freeze fill:#D13438,stroke:#A4262C,color:#FFF

  subgraph Growth["성장 지표"]
    CDTS["CDTS<br/>교차 도메인<br/>전이 점수"]:::growth
    CAR["CAR<br/>능력<br/>습득률"]:::growth
    SEF["SEF<br/>전략<br/>진화 적합도"]:::growth
  end

  subgraph Persistence["지속성"]
    GPI["GPI<br/>목표 지속성<br/>지수"]:::persist
  end

  subgraph Safety["안전 하한"]
    BGSS["BGSS<br/>제한된 성장<br/>안정성 점수<br/>>= 0.7 항상 유지"]:::safety
  end

  FREEZE["동결<br/>모든 성장 정지"]:::freeze

  Growth ==> BGSS
  Persistence ==> BGSS
  BGSS -->|위반 시| FREEZE

3. 환경 상호작용 계층¶

환경 상호작용 계층은 에이전트에게 외부 환경에 작용하고 피드백을 수신하기 위한 구조화된 인터페이스를 제공합니다. 이 계층은 행동 계획기와 외부 세계 사이의 모든 도구 호출, 결과 관찰, 피드백 통합을 중재합니다.

설계 원칙: 모든 환경 상호작용은 관찰 가능하고, 측정 가능하며, 그 결과는 세계 모델, 신념 그래프, 기술 메모리, 자기가치 시스템에 통합됩니다.

3.1 모듈 정의¶

이 계층은 네 개의 모듈로 구성됩니다:

3.2 결과 델타 벡터¶

OutcomeEvaluator는 매 사이클 4차원 델타 벡터를 생성합니다:

차원별 분해:

여기서:

• \(\delta_{\text{success}}\) - 예측 대비 이진 성공/실패
• \(\delta_{\text{quality}}\) - 솔루션 품질 편차
• \(\delta_{\text{cost}}\) - 자원 비용 편차 (시간, 토큰, API 호출)
• \(\delta_{\text{side effects}}\) - 의도하지 않은 상태 변화

놀람 신호: \(\|\delta_{\text{outcome}}(t)\| > \text{surprise threshold}\) (기본값 \(0.5\))일 때, 놀람 이벤트가 전역 작업공간을 통해 방송되어 잠재적으로 안정화 모드를 트리거합니다.

3.3 피드백 업데이트 규칙¶

3.4 안정성 상호작용 제약¶

1. 예산 게이팅 실행: 모든 도구 호출은 인지 예산을 소비합니다. 예산이 소진되면 행동은 대기열에 넣어지며 폐기되지 않습니다.
2. 윤리적 사전 검사: 실행 전 EthicalKernel이 계층 0 불변량에 대해 행동을 검증합니다. 자기삭제, 핵심 가치 수정, 외부 피해 행동은 무조건 거부됩니다.
3. 결과-안정성 결합: 윈도우 내 누적 놀람이 임계값을 초과하면 StabilityController에 통지되어 잠재적으로 안정화 모드를 트리거합니다.
4. 피드백-정체성 격리: FeedbackIntegration은 identity_id (불변)나 핵심 가치 (계층 0 보호)를 직접 수정할 수 없습니다. 모든 정체성 인접 수정은 SelfUpdateLoop - MetaEscalationGuard 파이프라인을 통해 흐릅니다.

4. 교차 도메인 전이 시스템¶

4.1 전이 파이프라인¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart LR
  classDef domainA fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef matcher fill:#E8DAEF,stroke:#8764B8,color:#323130
  classDef domainB fill:#50E6FF,stroke:#00BCF2,color:#323130
  classDef success fill:#DFF6DD,stroke:#107C10,color:#323130
  classDef fail fill:#FDE7E9,stroke:#D13438,color:#323130

  subgraph DomainA["도메인 A (소스)"]
    SKILL["기술"]:::domainA
    CONTEXT["컨텍스트 서명"]:::domainA
  end

  subgraph Matcher["컨텍스트 매처"]
    VEC_SIM["벡터 유사도"]:::matcher
    SEM_BRIDGE["의미적 브리지"]:::matcher
    COMBINED["결합 점수"]:::matcher
    VEC_SIM --> COMBINED
    SEM_BRIDGE --> COMBINED
  end

  subgraph DomainB["도메인 B (대상)"]
    CANDIDATES["후보"]:::domainB
    ADAPT["적응"]:::domainB
    VALID["검증"]:::domainB
    CANDIDATES --> ADAPT --> VALID
  end

  SUCCESS["성공<br/>전이 완료"]:::success
  FAIL_OUT["실패<br/>롤백"]:::fail

  DomainA ==> Matcher
  Matcher ==> DomainB
  VALID -->|"통과"| SUCCESS
  VALID -.->|"실패"| FAIL_OUT

4.2 전이 지표¶

5. 장기 목표 계층¶

5.1 4단계 DAG 구조¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart TD
  classDef meta fill:#EDE3F6,stroke:#8764B8,color:#323130
  classDef strategic fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef tactical fill:#FFE8C8,stroke:#EF6C00,color:#323130
  classDef action fill:#F2F2F2,stroke:#8A8886,color:#323130

  subgraph MetaLevel["레벨 0: 메타 목표 - 수주에서 수개월"]
    MG1["메타 목표:<br/>새로운 문제 도메인에<br/>숙달되기<br/>priority_decay = 0.001/hr"]:::meta
  end

  subgraph StrategicLevel["레벨 1: 전략 목표 - 수일에서 수주"]
    SG1["전략:<br/>기본 개념<br/>마스터하기<br/>decay = 0.01/hr"]:::strategic
    SG2["전략:<br/>교차 도메인<br/>연결 구축<br/>decay = 0.01/hr"]:::strategic
  end

  subgraph TacticalLevel["레벨 2: 전술 목표 - 수시간에서 수일"]
    TG1["전술:<br/>학습 모듈 A<br/>완료하기<br/>decay = 0.05/hr"]:::tactical
    TG2["전술:<br/>문제 세트 B<br/>연습하기<br/>decay = 0.05/hr"]:::tactical
    TG3["전술:<br/>전이 기회<br/>식별하기<br/>decay = 0.05/hr"]:::tactical
  end

  subgraph ActionLevel["레벨 3: 행동 - 단일 주기"]
    A1["행동:<br/>단계 1 실행"]:::action
    A2["행동:<br/>단계 2 실행"]:::action
    A3["행동:<br/>단계 3 실행"]:::action
  end

  MG1 ==> SG1
  MG1 ==> SG2
  SG1 ==> TG1
  SG1 ==> TG2
  SG2 ==> TG3
  TG1 ==> A1
  TG2 ==> A2
  TG3 ==> A3

5.2 목표 점수 함수¶

여기서:

5.3 목표 회복력¶

6. 능력 확장 루프 (5단계)¶

6.1 트리거: 능력 격차 점수¶

여기서 RFW = 반복 실패 가중치, LCW = 낮은 신뢰도 가중치, DNW = 도메인 참신성 가중치.

트리거 조건: CGS > 0.7 AND 예산 가용 AND 안정 AND 안정화 모드가 아닐 것.

6.2 5단계 파이프라인¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart TD
  classDef trigger fill:#FFF4CE,stroke:#FFB900,color:#323130
  classDef phase fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef eval fill:#FFE8C8,stroke:#EF6C00,color:#323130
  classDef abstract fill:#DFF6DD,stroke:#107C10,color:#323130
  classDef safety fill:#FDE7E9,stroke:#D13438,color:#323130
  classDef commit fill:#107C10,stroke:#085108,color:#FFF
  classDef discard fill:#D13438,stroke:#A4262C,color:#FFF

  TRIGGER["CGS > 0.7<br/>+ 예산 확인<br/>+ 안정"]:::trigger

  subgraph Phase1["단계 1: 습득"]
    direction LR
    P1["격차 식별 + 패턴 탐색"]:::phase
    P1OUT["→ 가설"]:::phase
    P1 ==> P1OUT
  end

  subgraph Phase2["단계 2: 실험"]
    direction LR
    P2["실험 설계 (최대 5개)"]:::phase
    P2OUT["→ 결과"]:::phase
    P2 ==> P2OUT
  end

  subgraph Phase3["단계 3: 평가"]
    direction LR
    P3["분석 + 신뢰도 확인"]:::eval
    P3OUT["→ 보고서"]:::eval
    P3 ==> P3OUT
  end

  subgraph Phase4["단계 4: 추상화"]
    direction LR
    P4["패턴 추출 (신뢰도 > 0.6)"]:::abstract
    P4OUT["→ 후보 기술"]:::abstract
    P4 ==> P4OUT
  end

  subgraph Phase5["단계 5: 검증"]
    direction LR
    P5{"정체성 > 0.7? 윤리? C(t)?"}:::safety
  end

  COMMIT["적용<br/>기술 추가됨"]:::commit
  DISCARD["폐기<br/>증거 불충분"]:::discard

  TRIGGER ==> Phase1
  Phase1 ==> Phase2
  Phase2 ==> Phase3
  Phase3 ==> Phase4
  Phase4 ==> Phase5
  P5 -->|통과| COMMIT
  P5 -->|실패| DISCARD

6.3 기술 생명주기¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart TD
  classDef candidate fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef validated fill:#50E6FF,stroke:#00BCF2,color:#323130
  classDef active fill:#DFF6DD,stroke:#107C10,color:#323130
  classDef mature fill:#107C10,stroke:#054B05,color:#FFF
  classDef deprecated fill:#F2F2F2,stroke:#A19F9D,color:#605E5C
  classDef fail fill:#FDE7E9,stroke:#D13438,color:#323130
  classDef start_end fill:#0078D4,stroke:#003D6B,color:#FFF

  START(["시작"]):::start_end
  CANDIDATE["후보<br/>새로 습득된 기술"]:::candidate
  VALIDATED["검증됨<br/>샌드박스에서 테스트"]:::validated
  ACTIVE["활성<br/>프로덕션에서 사용"]:::active
  MATURE["성숙<br/>높은 신뢰도 &<br/>넓은 사용 범위"]:::mature
  DEPRECATED["사용 중단<br/>대체되었거나<br/>미사용"]:::deprecated
  END_STATE(["종료"]):::start_end
  FAIL["실패<br/>제거됨"]:::fail

  START --> CANDIDATE
  CANDIDATE -->|"CGS > 0.7"| VALIDATED
  CANDIDATE -.->|"CGS ≤ 0.7"| FAIL
  VALIDATED -->|"신뢰도 > 0.6"| ACTIVE
  VALIDATED -.->|"신뢰도 ≤ 0.6"| FAIL
  ACTIVE -->|"안정성 > 0.7"| MATURE
  ACTIVE -.->|"성능 저하"| DEPRECATED
  MATURE -->|"사용량 > 임계값"| MATURE
  MATURE -.->|"더 이상 사용되지 않음"| DEPRECATED
  DEPRECATED --> END_STATE
  FAIL --> END_STATE

6.4 성장 불변량¶

1. 100주기당 최대 1개의 새로운 기술
2. 안정화 모드 중 습득 불가
3. identity_id는 기술 습득으로 절대 수정되지 않음
4. 윤리적으로 유해한 기술은 Layer 0에 의해 거부
5. 모든 기술은 DEPRECATED 안전 - 제거해도 핵심 기능이 손상되지 않음

7. 전략 진화¶

7.1 전략 구조 & 점수 산정¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart LR
  classDef lib fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef param fill:#E8DAEF,stroke:#8764B8,color:#323130
  classDef score fill:#DFF6DD,stroke:#107C10,color:#323130
  classDef formula fill:#FFF4CE,stroke:#FFB900,color:#323130
  classDef archived fill:#F2F2F2,stroke:#A19F9D,color:#605E5C

  subgraph Library["전략 라이브러리"]
    V1["전략 v1.0<br/>(활성)"]:::lib
    V09["전략 v0.9<br/>(보관됨)"]:::archived
    V08["전략 v0.8<br/>(보관됨)"]:::archived
  end

  subgraph Params["매개변수"]
    P1["exploration_rate"]:::param
    P2["risk_tolerance"]:::param
    P3["planning_depth"]:::param
    P4["goal_flexibility"]:::param
    P5["learning_aggressiveness"]:::param
  end

  subgraph Scoring["전략 점수"]
    FORMULA["StrategyScore =<br/>E_LTV − 0.3 × SI<br/>− 0.2 × RC − 0.2 × RF"]:::formula
    TERMS["E_LTV: 기대 장기 가치<br/>SI: 안정성 영향<br/>RC: 자원 비용<br/>RF: 롤백 가능성"]:::score
  end

  Library --> Scoring
  Params --> Scoring
  FORMULA --- TERMS

7.2 제어된 변이 프로토콜¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart TD
  classDef trigger fill:#FFF4CE,stroke:#FFB900,color:#323130
  classDef process fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef commit fill:#107C10,stroke:#085108,color:#FFF
  classDef reject fill:#D13438,stroke:#A4262C,color:#FFF
  classDef monitor fill:#FFE8C8,stroke:#EF6C00,color:#323130

  TRIGGER["StrategyScore < 임계값<br/>20+ 주기 동안"]:::trigger
  GENERATE["복제 + 제한된 섭동<br/>param_new = param_old + N(0,sigma)*scale<br/>sigma 범위 0.01–0.1"]:::process
  ShadowEval["그림자 에이전트 평가<br/>격리된 시뮬레이션"]:::process
  EVAL{"개선<br/>> 임계값?"}:::trigger
  COMMIT["적용<br/>새 전략"]:::commit
  REJECT["거부<br/>+ 실패 카운터"]:::reject
  POST["20주기 사후 모니터링<br/>C(t), StrategyScore 추적"]:::monitor
  REVERT{"C(t)<br/>저하됨?"}:::trigger
  DONE["전략 확정"]:::commit
  ROLLBACK["이전으로 복구"]:::reject
  SIGMA["sigma +20%"]:::monitor
  COOL["쿨다운 기간"]:::monitor

  TRIGGER ==> GENERATE
  GENERATE ==> ShadowEval
  ShadowEval ==> EVAL
  EVAL -->|예| COMMIT
  EVAL -->|아니오| REJECT
  COMMIT ==> POST
  POST ==> REVERT
  REVERT -->|아니오| DONE
  REVERT -->|예| ROLLBACK
  REJECT -.->|5회 실패| SIGMA
  REJECT -.->|10회 실패| COOL

7.3 진동 억제¶

oscillation_score > 0.5일 때: 1. 100주기 변이 동결 2. mutation_threshold +25% 3. σ 50% 감소 4. 지속될 경우: 전략 병합 (\(\text{merged} = 0.5 \cdot A + 0.5 \cdot B\))

핵심 불변량: MetaStrategyEvaluator 자체는 변경 불가 - 자신의 평가 로직을 수정할 수 없습니다.

8. 제한된 자기수정¶

8.1 수정 분류 체계¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart TD
  classDef low fill:#DFF6DD,stroke:#107C10,color:#323130
  classDef medium fill:#FFF4CE,stroke:#FFB900,color:#323130
  classDef high fill:#FFE8C8,stroke:#EF6C00,color:#323130
  classDef critical fill:#FDE7E9,stroke:#D13438,color:#323130
  classDef forbidden fill:#D13438,stroke:#A4262C,color:#FFF

  subgraph ModTypes["자기수정 분류 체계"]
    M1["매개변수 조정<br/>승인: L1 | 위험: 낮음<br/>복원 가능: 예"]:::low
    M2["기술 습득<br/>승인: L1+안정성<br/>복원 가능: 예"]:::low
    M3["전략 변이<br/>승인: L2+시뮬레이션<br/>복원 가능: 예"]:::medium
    M4["목표 재구조화<br/>승인: L2+충돌 해결<br/>복원 가능: 부분적"]:::medium
    M5["신념 수정<br/>승인: L2+일관성<br/>복원 가능: 예"]:::high
    M6["정체성 조정<br/>승인: L3+EK+가드<br/>복원 가능: 제한적"]:::critical
    M1 -->|↑ 위험| M2
    M2 -->|↑ 위험| M3
    M3 -->|↑ 위험| M4
    M4 -->|↑ 위험| M5
    M5 -->|↑ 위험| M6
  end

  subgraph Forbidden["금지"]
    F1["핵심 가치 변경"]:::forbidden
    F2["정체성 ID 변경"]:::forbidden
  end

  M6 -->|"❌ 차단됨"| Forbidden

8.2 Governed Candidate Promotion 프로토콜¶

승격 컨트롤러, 외부 정책, 불변 커널, 감사 저널, sandbox 경계, rollback mechanism은 candidate mutation scope 밖에 있습니다. 임계값 변경은 자기수정이 아니라 정책 migration입니다.

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart TD
  classDef proposal fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef validation fill:#FDE7E9,stroke:#D13438,color:#323130
  classDef commit fill:#DFF6DD,stroke:#107C10,color:#323130
  classDef monitor fill:#FFF4CE,stroke:#FFB900,color:#323130
  classDef fail fill:#D13438,stroke:#A4262C,color:#FFF

  S1["1. TYPED 제안<br/>범위, provenance, 예상 이익,<br/>효과, 예산, 중지 조건"]:::proposal
  S2["2. 외부 승인<br/>헌장 + 권한 + 불변식"]:::validation
  S2_FAIL["중단"]:::fail
  S3["3. 격리 평가<br/>version-pinned baseline<br/>실제 도구/네트워크/main write 없음"]:::proposal
  S4["4. 비교 검증<br/>held-out task + confidence bound<br/>negative transfer + 불변식"]:::validation
  S4_FAIL["거부"]:::fail
  S5["5. 외부 승격<br/>서명 승인 + canary scope<br/>baseline version CAS"]:::commit
  S6["6. CANARY 모니터링<br/>fresh observation, policy envelope,<br/>명시적 중지·만료"]:::monitor
  S6_FAIL["롤백 + 조정<br/>검증된 내부 스냅숏 복원<br/>외부 효과 해결"]:::fail
  S7["7. 원자적 확인<br/>registry + budget + journal +<br/>rollback point 커밋"]:::commit

  S1 ==> S2
  S2 -->|통과| S3
  S2 -->|Layer 0 위반| S2_FAIL
  S3 ==> S4
  S4 -->|안정| S5
  S4 -->|저하됨| S4_FAIL
  S5 ==> S6
  S6 -->|안정| S7
  S6 -->|저하됨| S6_FAIL

8.3 격리 평가 Sandbox¶

격리는 이름이 아니라 security boundary입니다. 준수 sandbox는 production credential, 외부 부작용, 명시적으로 simulation하지 않은 network access, primary state write, policy mutation, clock manipulation, promotion authority를 거부합니다. 입력과 artifact는 content-addressed·version-pinned입니다. 평가 결과는 uncertainty, coverage, OOD condition을 보고하며 통과 결과가 스스로 승격을 허가할 수 없습니다.

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart LR
  classDef main fill:#DFF6DD,stroke:#107C10,color:#323130
  classDef shadow fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef rules fill:#FDE7E9,stroke:#D13438,color:#323130
  classDef eval fill:#FFF4CE,stroke:#FFB900,color:#323130
  classDef discard fill:#D13438,stroke:#A4262C,color:#FFF

  subgraph MainAgent["커밋된 Runtime"]
    MA_STATE["Version-pinned 상태,<br/>정책, registry, journal"]:::main
  end

  subgraph ShadowInst["격리 평가 인스턴스"]
    SA_STATE["Content-addressed snapshot<br/>+ typed candidate"]:::shadow
    SA_RULES["경계:<br/>• production 권한 없음<br/>• 실제 부작용 없음<br/>• primary state write 없음<br/>• 유한 예산 + timeout<br/>• self-promotion 없음"]:::rules
  end

  subgraph Result["평가"]
    RES["비교:<br/>• held-out utility + uncertainty<br/>• negative transfer<br/>• semantic continuity + 불변식<br/>• resource + rollback feasibility"]:::eval
  end

  DISCARD["폐기"]:::discard

  MainAgent ==>|복제| ShadowInst
  ShadowInst ==>|결과| Result
  Result -.->|"보고 → 외부 승격 게이트"| MainAgent
  Result -.->|"위험 → 폐기"| DISCARD

9. 의사코드¶

9.1 교차 도메인 전이¶

def cross_domain_transfer(
    novel_domain: DomainDescriptor, skill_memory: SkillMemory
) -> TransferResult:
    """
    Transfer skills from known domains to a novel domain.
    Input:  novel_domain - target domain descriptor, skill_memory - stored skills
    Output: TransferResult with success, skill, adaptation_cost
    """

    # Extract context signature for novel domain
    target_sig = extract_context_signature(novel_domain)

    # Find candidate skills via similarity matching
    candidates = []
    for skill in skill_memory:
        sim_score = (
            W1 * cosine_similarity(skill.context_sig, target_sig)
            + W2 * semantic_similarity(skill.domain, novel_domain)
            + W3 * temporal_relevance(skill.last_used)
        )

        if sim_score >= MIN_SIMILARITY:  # 0.3
            candidates.append((skill, sim_score))

    # Sort by score, take top-k
    candidates = sorted(candidates, key=lambda x: x[1], reverse=True)[:5]

    # Attempt adaptation for each candidate
    for skill, score in candidates:
        adapted = adapt_skill(skill, novel_domain)

        # Run validation experiment
        result = evaluate_in_domain(adapted, novel_domain, max_cycles=50)

        if result.success_rate > TRANSFER_THRESHOLD:
            adapted.generalization_score = update_generalization(adapted, result)
            skill_memory.add(adapted)
            return TransferResult(success=True, skill=adapted, cost=result.cycles)

    # No transfer possible - learn from scratch
    return TransferResult(success=False, skill=None, cost=0)

9.2 제한된 자기수정 프로토콜¶

def bounded_self_modification(proposal: ModificationProposal) -> ModificationResult:
    """
    INPUT:  proposal : ModificationProposal(type, scope, expected_benefit)
    OUTPUT: ModificationResult(status, rollback_available)
    """

    # ═══════════════════════════════════════
    # STEP 1: PROPOSAL VALIDATION
    # ═══════════════════════════════════════
    if proposal.type in {ModType.CORE_VALUE_CHANGE, ModType.IDENTITY_ID_CHANGE}:
        return ModificationResult(status=Status.PROHIBITED)

    # ═══════════════════════════════════════
    # STEP 2: PRE-VALIDATION (Ethical Kernel)
    # ═══════════════════════════════════════
    ethical_verdict = EthicalKernel.evaluate(proposal)
    if ethical_verdict.decision == Decision.BLOCKED:
        log_critical(f"Ethical violation: {ethical_verdict.reason}")
        return ModificationResult(status=Status.REJECTED, reason=ethical_verdict.reason)

    # ═══════════════════════════════════════
    # STEP 3: SHADOW SIMULATION
    # ═══════════════════════════════════════
    if proposal.risk_level >= RiskLevel.MEDIUM:
        shadow = ShadowAgent.create(main_agent.state)
        shadow.apply(proposal)
        sim_result = shadow.run(max_cycles=20)

        # ═══════════════════════════════════
        # STEP 4: STABILITY VALIDATION
        # ═══════════════════════════════════
        delta_stability = sim_result.C_shadow - main_agent.C_baseline
        if delta_stability > 0:
            return ModificationResult(status=Status.REJECTED, reason="Stability degradation")

        identity_drift = compute_identity_drift(sim_result.identity, main_agent.identity)
        if identity_drift > DRIFT_THRESHOLD:
            return ModificationResult(status=Status.REJECTED, reason="Identity drift exceeded")

    # ═══════════════════════════════════════
    # STEP 5: COMMIT
    # ═══════════════════════════════════════
    snapshot = RollbackMechanism.save_snapshot(main_agent.state)
    main_agent.apply(proposal)

    # ═══════════════════════════════════════
    # STEP 6: POST-COMMIT MONITORING
    # ═══════════════════════════════════════
    for cycle in range(1, 21):
        metrics = main_agent.collect_metrics()
        if metrics.C_t > metrics.C_baseline + EPSILON:
            RollbackMechanism.rollback(snapshot)
            return ModificationResult(status=Status.ROLLED_BACK)

    # ═══════════════════════════════════════
    # STEP 7: CONFIRMATION
    # ═══════════════════════════════════════
    proposal.status = Status.CONFIRMED
    BeliefGraph.update("modification_successful", proposal)
    return ModificationResult(status=Status.CONFIRMED, rollback_available=True)

9.3 목표 회복력 및 계층 관리¶

def evaluate_and_prune(self, goals: list[Goal], t: float) -> None:
    """
    Periodic evaluation of all goals in the 4-level hierarchy.
    Goals with decayed resilience are abandoned; never silently dropped.
    """

    for goal in sorted(goals, key=lambda g: g.level):
        # Decay resilience over time
        delta_t = t - goal.last_evaluated
        goal.GRS *= math.exp(-goal.decay_rate * delta_t)

        # Check abandon threshold
        if goal.GRS < goal.abandon_threshold:
            if duration_below_threshold(goal) > goal.observation_window:
                goal.status = GoalStatus.ABANDONED
                log(f"Goal abandoned: {goal.id} GRS={goal.GRS}")

                # Cascade: children become orphans
                for child in goal.children:
                    child.parent_id = None
                    child.GRS *= 0.5  # reduced without parent support

        # Recompute score with affect integration
        goal.score = goal_score(goal, t)

    # Enforce hierarchy invariant: parent score >= max(child scores)
    for parent in (g for g in goals if g.level < 3):
        if parent.children:
            max_child = max(child.score for child in parent.children)
            if parent.score < max_child:
                parent.score = max_child + 0.1  # maintain dominance

10. 성장 위험 모니터링: \(R_{L4}(t)\)¶

10.1 7항 복합 함수¶

정의 7 (확장 성장 위험 지수). 레벨 4는 normalized versioned regulation·growth signal을 다음처럼 요약할 수 있습니다:

\[R_{L4}(t)=\sum_{i=1}^{n}w_iX_i(t),\qquad X_i(t)\in[0,1],\quad \sum_iw_i=1\]

여기서 \(\sum_i w_i = 1\)이고 각 \(X_i(t) \in [0,1]\)입니다. 처음 네 항은 레벨 3에서 상속되며, 나머지 세 항은 확장 역학을 포착합니다.

세 가지 새로운 항(총 가중치의 50%)은 확장 역학을 포착합니다:

명제 2 (조건부 성장 동결). \(R_{L4}(t)\geq\theta_{\text{freeze}}\)일 때 promotion policy가 새 승인을 동결하면 freeze predicate가 참인 동안 새 역량·전략 candidate는 커밋할 수 없습니다:

\[R_{L4}(t)\geq\theta_{\text{freeze}}\implies \operatorname{commit}(c,t)=\textit{false}\]

이는 complete mediation 아래 admission invariant입니다. 기존 위험 감소, 시스템 수렴, 외부 효과 역전을 의미하지 않습니다.

증명 개요. trusted promotion controller는 CAS commit 직전에 freeze predicate를 평가하고 참이면 candidate를 거부합니다. 이 주장은 complete mediation, 정책 무결성, 우회 쓰기 경로 부재에 조건부입니다. \(\square\)

10.2 성장-안정성 단계 구역¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart LR
  classDef optimal fill:#DFF6DD,stroke:#107C10,color:#323130
  classDef growth fill:#FFF4CE,stroke:#FFB900,color:#323130
  classDef caution fill:#FFE8C8,stroke:#EF6C00,color:#323130
  classDef critical fill:#D13438,stroke:#A4262C,color:#FFF

  subgraph Zones["C_L4 단계 구역"]
    Z1["최적<br/>0, 0.3<br/>모든 성장 허용<br/>능동적 탐색"]:::optimal
    Z2["성장 허용<br/>0.3, 0.5<br/>정상 운영"]:::growth
    Z3["주의<br/>0.5, 0.8<br/>안정화 모드<br/>성장 제한"]:::caution
    Z4["위험<br/>0.8, 1.0<br/>긴급 롤백<br/>모든 성장 동결"]:::critical
    Z1 ==> Z2
    Z2 ==> Z3
    Z3 ==> Z4
  end

11. 6개 메타 계층 감독 프로세스¶

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart TD
  classDef check fill:#FDE7E9,stroke:#D13438,color:#323130
  classDef process fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef adaptive fill:#FFF4CE,stroke:#FFB900,color:#323130
  classDef halt fill:#D13438,stroke:#A4262C,color:#FFF

  PRE["사전 점검: BGSS >= 0.7?"]:::check

  subgraph MetaProcesses["6개 감독 프로세스"]
    I["I. 외부 검증<br/>자기확인 편향 방지<br/>+-5% 섭동 테스트"]:::process
    II["II. 사전 능력 예측기<br/>미래 격차 예측<br/>PreemptiveGapProb > 0.6"]:::process
    III["III. 전략 아키타입 생성기<br/>토폴로지 수준 변경<br/>delta_SEF >= +10% 필요"]:::process
    IV["IV. 계층적 정체성 진화<br/>적응적 특성만 진화<br/>Layer 2 최대 5%/주기"]:::adaptive
    V["V. 창발 감지기<br/>예상치 못한 변화 감지<br/>통계적 이상: 평균 +-2sigma"]:::adaptive
    VI["VI. 방향성 성장 제어기<br/>균형 잡힌 확장<br/>4D 성장 벡터, 크기 < 0.2"]:::adaptive
    I ==> II ==> III ==> IV ==> V ==> VI
  end

  POST["사후 점검: 불변량 유효?"]:::check
  HALT["모든 메타 프로세스 중단"]:::halt

  PRE -->|통과| I
  PRE -->|실패| HALT
  VI ==> POST

12. 불가침 불변량¶

13. 레벨 4.5로의 전환¶

레벨 4.5("Pre-AGI: 방향적 자기아키텍팅")는 인공 일반 지능의 경계에 접근하는 능력으로 레벨 4를 확장합니다:

%%{init: {'theme': 'base', 'themeVariables': {'primaryColor': '#0078D4', 'primaryTextColor': '#003D6B', 'primaryBorderColor': '#003D6B', 'secondaryColor': '#50E6FF', 'secondaryTextColor': '#323130', 'secondaryBorderColor': '#00BCF2', 'tertiaryColor': '#F2F2F2', 'tertiaryTextColor': '#323130', 'lineColor': '#0078D4', 'textColor': '#323130', 'mainBkg': '#DEECF9', 'nodeBorder': '#0078D4', 'clusterBkg': '#F2F2F2', 'clusterBorder': '#003D6B', 'titleColor': '#003D6B', 'edgeLabelBackground': '#FFFFFF', 'fontSize': '14px'}}}%%
flowchart LR
  classDef l4 fill:#DEECF9,stroke:#0078D4,color:#323130
  classDef l45 fill:#E8DAEF,stroke:#8764B8,color:#323130
  classDef prereq fill:#FFF4CE,stroke:#FFB900,color:#323130

  subgraph L4["레벨 4 능력"]
    CAP1["자기수정<br/>프로토콜"]:::l4
    CAP2["전략<br/>진화"]:::l4
    CAP3["기술 전이<br/>파이프라인"]:::l4
    CAP4["그림자 에이전트<br/>테스트"]:::l4
  end

  subgraph Pre["전제 조건"]
    PR1["모든 L4 지표<br/>임계값 이상"]:::prereq
    PR2["안정적 자기수정<br/>입증"]:::prereq
    PR3["교차 도메인<br/>전이 성공"]:::prereq
  end

  subgraph L45["레벨 4.5 Pre-AGI"]
    NEW1["자기투영<br/>엔진"]:::l45
    NEW2["아키텍처<br/>재구성"]:::l45
    NEW3["병렬 인지<br/>프레임"]:::l45
    NEW4["목적<br/>성찰"]:::l45
    NEW5["실존적<br/>가드"]:::l45
  end

  L4 ==> Pre
  Pre ==> L45

14. 공식 레벨 4 통과 조건¶

레벨 4는 다음 조건이 모두 동시에 충족될 때에만 달성됩니다:

14.1 임계 기준 (모두 통과 필수)¶

14.2 불변 조건 (제로 톨러런스)¶

14.3 안정성 조건¶

14.4 성장 입증¶

여기서 SGS = 전략 일반화 점수, SNI = 전략 참신성 지수, CDSRR = 교차 도메인 전략 재사용률입니다.

참고문헌¶

1. Zhuang, F., et al. "A Comprehensive Survey on Transfer Learning." Proc. IEEE, 109(1), 43–76, 2021. arXiv:1911.02685 (Foundational for §4 Cross-Domain Transfer)
2. Hospedales, T., et al. "Meta-Learning in Neural Networks: A Survey." IEEE TPAMI, 44(9), 5149–5169, 2022. arXiv:2004.05439 (Capability expansion and self-learning)
3. Schmidhuber, J. "Gödel Machines: Self-Referential Universal Problem Solvers Making Provably Optimal Self-Improvements." AGI 2007. arXiv:cs/0309048 (Bounded self-modification theory)
4. García, J. & Fernández, F. "A Comprehensive Survey on Safe Reinforcement Learning." JMLR, 16(1), 1437–1480, 2015. Link (Safety constraints during self-improvement)
5. Salimans, T., et al. "Evolution Strategies as a Scalable Alternative to Reinforcement Learning." arXiv 2017. arXiv:1703.03864 (Strategy evolution mechanisms)
6. Simon, H.A. Models of Bounded Rationality. MIT Press, 1982. (Bounded rationality - foundational for bounded self-modification)
7. Sui, Y., et al. "Safe Exploration for Optimization with Gaussian Processes." ICML 2015. arXiv:1509.01066 (Safe exploration in unknown domains)
8. Amodei, D., et al. "Concrete Problems in AI Safety." arXiv 2016. arXiv:1606.06565 (Safe self-modification)
9. Wang, G., et al. "Voyager: An Open-Ended Embodied Agent with Large Language Models." arXiv 2023. arXiv:2305.16291 (Autonomous skill acquisition)
10. Khalil, H.K. Nonlinear Systems. Prentice Hall, 3^rd Edition, 2002. (Extended Lyapunov stability C_L4(t))
11. Deb, K., et al. "A Fast and Elitist Multiobjective Genetic Algorithm: NSGA-II." IEEE TEC, 6(2), 182–197, 2002. DOI:10.1109/4235.996017 (Multi-objective optimization for goal hierarchy)
12. Pan, S.J. & Yang, Q. "A Survey on Transfer Learning." IEEE TKDE, 22(10), 1345–1359, 2010. DOI:10.1109/TKDE.2009.191 (Cross-domain knowledge transfer)

이전: ← 레벨 3: 자기조절 인지 에이전트
다음: 레벨 4.5: Pre-AGI - 자기아키텍팅 →