Cloudflare AI Platform 2026 — Hạ tầng Edge cho AI Agent Serverless

Posted on: 4/17/2026 8:08:58 PM

Khi AI Agent không còn là chatbot đơn giản mà trở thành hệ thống phân tán thực thi hàng triệu tác vụ song song, câu hỏi không còn là "dùng model nào?" mà là "chạy agent ở đâu, bằng cách nào, với chi phí bao nhiêu?". Cloudflare vừa đưa ra câu trả lời đầy tham vọng với AI Platform — một lớp hạ tầng hoàn chỉnh biến mạng lưới 330+ data center toàn cầu thành nền tảng chạy AI agent serverless, từ inference đến execution, từ đến persistent memory.

Bài viết này sẽ phân tích sâu kiến trúc Cloudflare AI Platform 2026, bao gồm AI Gateway, Workers AI, Dynamic Workers, và đặc biệt là Project Think — framework xây dựng AI agent thế hệ mới với durable execution, sub-agent orchestration, và zero idle cost.

1. Toàn cảnh Cloudflare AI Platform

Cloudflare đã chuyển mình từ CDN/Security thành một full-stack AI infrastructure. Thay vì chỉ cache và bảo vệ traffic, mạng lưới edge giờ đây là nơi chạy inference, execute code, lưu trạng thái agent, và điều phối multi-model workflow — tất cả serverless.

2. AI Gateway — Unified Inference Layer

AI Gateway là lớp trung gian thống nhất giữa ứng dụng của bạn và bất kỳ AI model nào. Thay vì integrate trực tiếp với từng provider (OpenAI, Anthropic, Google...), bạn gọi qua một API duy nhất.

graph LR
    A["🖥️ Application"] --> B["AI Gateway"]
    B --> C["OpenAI"]
    B --> D["Anthropic"]
    B --> E["Google AI"]
    B --> F["Workers AI"]
    B --> G["Custom Model"]

    style A fill:#f8f9fa,stroke:#e94560,color:#2c3e50
    style B fill:#e94560,stroke:#fff,color:#fff
    style C fill:#2c3e50,stroke:#fff,color:#fff
    style D fill:#2c3e50,stroke:#fff,color:#fff
    style E fill:#2c3e50,stroke:#fff,color:#fff
    style F fill:#2c3e50,stroke:#fff,color:#fff
    style G fill:#2c3e50,stroke:#fff,color:#fff

2.1. Tính năng nổi bật

2.2. Cách sử dụng trong Workers

// Gọi model qua AI binding — cùng API cho mọi provider
const response = await env.AI.run(
  'anthropic/claude-sonnet-4-6',
  { input: 'Phân tích kiến trúc microservices' },
  {
    gateway: { id: "default" },
    metadata: { teamId: "backend", userId: 12345 }
  }
);

3. Workers AI — Inference tại Edge

Workers AI cho phép chạy AI model trực tiếp trên mạng lưới edge của Cloudflare, tối ưu latency bằng cách đưa inference gần người dùng nhất có thể.

3.1. Model Catalog

Hệ sinh thái model ngày càng phong phú:

3.2. Bring Your Own Model (BYOM)

Cloudflare tích hợp công nghệ Cog từ Replicate (đội ngũ Replicate đã chính thức gia nhập Cloudflare), cho phép đóng gói model custom vào container và deploy lên Workers AI:

# cog.yaml — đóng gói model fine-tuned
build:
  python_version: "3.11"
  python_packages:
    - "torch==2.3.0"
    - "transformers==4.42.0"

predict: "predict.py:Predictor"

4. Dynamic Workers — Sandbox cho AI Agent

Đây là thành phần then chốt cho agent execution. Dynamic Workers là runtime dựa trên V8 isolate, khởi động nhanh gấp 100 lần container truyền thống, cho phép AI agent thực thi code an toàn trong môi trường .

graph TD
    A["AI Agent"] --> B["Generate Code"]
    B --> C["Dynamic Worker
V8 Isolate"]
    C --> D["Execute
Sandboxed"]
    D --> E{"Kết quả"}
    E -->|"✅ Thành công"| F["Trả về Agent"]
    E -->|"❌ Timeout/Error"| G["Agent retry
hoặc strategy khác"]

    style A fill:#e94560,stroke:#fff,color:#fff
    style C fill:#2c3e50,stroke:#fff,color:#fff
    style D fill:#f8f9fa,stroke:#e94560,color:#2c3e50
    style F fill:#4CAF50,stroke:#fff,color:#fff
    style G fill:#ff9800,stroke:#fff,color:#fff

4.1. So sánh với Container truyền thống

5. Project Think — Framework cho AI Agent thế hệ 3

Project Think là tầm nhìn lớn nhất của Cloudflare cho AI agent: không chỉ là framework, mà là kiến trúc hạ tầng biến agent thành first-class citizen trên edge network.

5.1. Ba thế hệ AI Agent

5.2. Kiến trúc cốt lõi

graph TB
    subgraph "Project Think Architecture"
        A["Think Base Class"] --> B["Durable Objects
Identity + State + SQLite"]
        A --> C["Dynamic Workers
Code Execution"]
        A --> D["AI Gateway
Multi-model Inference"]
        A --> E["R2 + SQLite
Persistent Filesystem"]

        B --> F["Fibers
Durable Execution"]
        B --> G["Facets
Sub-Agents"]
        B --> H["Sessions
Conversation Trees"]

        C --> I["Tier 0: Workspace"]
        C --> J["Tier 1: JS Sandbox"]
        C --> K["Tier 2: npm Runtime"]
        C --> L["Tier 3: Headless Browser"]
        C --> M["Tier 4: Full Sandbox"]
    end

    style A fill:#e94560,stroke:#fff,color:#fff
    style B fill:#2c3e50,stroke:#fff,color:#fff
    style C fill:#2c3e50,stroke:#fff,color:#fff
    style D fill:#2c3e50,stroke:#fff,color:#fff
    style E fill:#2c3e50,stroke:#fff,color:#fff
    style F fill:#f8f9fa,stroke:#e94560,color:#2c3e50
    style G fill:#f8f9fa,stroke:#e94560,color:#2c3e50
    style H fill:#f8f9fa,stroke:#e94560,color:#2c3e50
    style I fill:#f8f9fa,stroke:#4CAF50,color:#2c3e50
    style J fill:#f8f9fa,stroke:#4CAF50,color:#2c3e50
    style K fill:#f8f9fa,stroke:#4CAF50,color:#2c3e50
    style L fill:#f8f9fa,stroke:#4CAF50,color:#2c3e50
    style M fill:#f8f9fa,stroke:#4CAF50,color:#2c3e50

Mỗi agent là một Durable Object — có identity riêng, persistent state trong SQLite, và tự động hibernate khi không hoạt động. Điều này thay đổi hoàn toàn kinh tế học của agent:

6. Năm Primitive của Project Think

6.1. Fibers — Durable Execution

Agent sống sót qua crash nhờ cơ chế checkpoint-recovery. Mỗi runFiber() ghi checkpoint vào SQLite trước khi thực thi, nếu environment bị terminate, agent recover tự động:

class ResearchAgent extends Think<Env> {
  async onChat(message: string) {
    // Fiber đăng ký trong SQLite trước khi chạy
    await this.runFiber('research', async () => {
      const sources = await this.searchWeb(message);
      const analysis = await this.analyze(sources);
      return this.respond(analysis);
    });
  }

  // Nếu crash giữa chừng, fiber tự recover
  async onFiberRecovered(fiberId: string) {
    console.log(`Recovering fiber: ${fiberId}`);
    // Resume từ checkpoint cuối cùng
  }
}

6.2. Facets — Sub-Agent Orchestration

Agent con là Durable Object riêng biệt với SQLite database riêng, giao tiếp qua typed RPC. Không có implicit data sharing — mỗi sub-agent hoàn toàn isolated:

// Parent agent phân công cho sub-agents
const researcher = this.createFacet('researcher');
const writer = this.createFacet('writer');

// Typed RPC — type-safe, isolated
const findings = await researcher.chat(
  'Tìm 5 bài viết mới nhất về edge computing',
  streamRelay
);

const draft = await writer.chat(
  `Viết tóm tắt dựa trên: ${findings}`,
  streamRelay
);

6.3. Persistent Sessions — Conversation Trees

Không chỉ lưu lịch sử tuyến tính, Project Think hỗ trợ tree-structured conversations: fork nhánh, non-destructive compaction, và full-text search qua SQLite FTS5.

6.4. Sandboxed Code Execution

Thay vì gọi tool từng bước (chat → call tool → chat → call tool), agent viết một chương trình hoàn chỉnh và chạy trong . Package @cloudflare/codemode đạt giảm 99.9% token so với cách gọi tool truyền thống.

6.5. Execution Ladder — Nâng cấp capability dần dần

7. Think Base Class — Agentic Loop có sẵn

Project Think cung cấp base class Think xử lý toàn bộ lifecycle: agentic loop, message persistence, streaming, tool execution, và extensions.

import { Think } from '@cloudflare/think';
import { createWorkersAI } from 'workers-ai-provider';

export class MyAgent extends Think<Env> {
  // Chỉ cần khai báo model
  getModel() {
    return createWorkersAI({ binding: this.env.AI })(
      '@cf/meta/llama-4-scout-17b-16e'
    );
  }

  // Lifecycle hooks cho customization
  async beforeTurn(messages) {
    // Inject system context, load memory
  }

  async beforeToolCall(toolName, args) {
    // Validate, log, or modify tool calls
  }

  async afterToolCall(toolName, result) {
    // Post-process, cache results
  }

  async onStepFinish(step) {
    // Checkpoint progress
  }
}

7.1. Lifecycle Hooks

graph LR
    A["beforeTurn()"] --> B["streamText()"]
    B --> C["beforeToolCall()"]
    C --> D["Tool Execution"]
    D --> E["afterToolCall()"]
    E --> F["onStepFinish()"]
    F -->|"Cần tool khác"| C
    F -->|"Hoàn tất"| G["onChatResponse()"]

    style A fill:#f8f9fa,stroke:#e94560,color:#2c3e50
    style B fill:#e94560,stroke:#fff,color:#fff
    style D fill:#2c3e50,stroke:#fff,color:#fff
    style G fill:#4CAF50,stroke:#fff,color:#fff

8. Persistent Memory — Agent nhớ mọi thứ

Project Think implement memory qua Context Blocks — các section có cấu trúc mà model có thể đọc và cập nhật, persist qua hibernation:

MEMORY (Important facts about user) [42%, 462/1100 tokens]
- User thích viết code TypeScript
- Timezone: UTC+7
- Project hiện tại: e-commerce platform

PREFERENCES (Working style) [18%, 198/1100 tokens]
- Prefer functional over OOP
- Muốn response ngắn gọn

Token usage hiển thị dạng phần trăm, giúp agent tự quản lý context window — biết khi nào cần compact memory để không vượt giới hạn.

9. Self-Authored Extensions

Đây là tính năng táo bạo nhất: agent tự viết extension cho chính mình. Extension là TypeScript code chạy trong Dynamic Workers, với declared permissions:

// Agent tự tạo extension khi cần capability mới
const extension = {
  name: 'price-checker',
  permissions: {
    network: ['api.example.com'],  // Chỉ được truy cập domain này
    workspace: ['read']             // Chỉ đọc file
  },
  code: `
    export async function checkPrice(symbol: string) {
      const res = await fetch('https://api.example.com/price/' + symbol);
      return res.json();
    }
  `
};

// Extension persist trong storage, survive hibernation
await this.installExtension(extension);

10. Chi phí và Free Tier

Một trong những điểm hấp dẫn nhất của Cloudflare AI Platform là mô hình pricing thân thiện:

10.1. Ước tính chi phí thực tế

11. Hands-on: Tạo Agent đầu tiên với Project Think

11.1. Setup

# Khởi tạo project
npm create cloudflare@latest my-agent -- --template think
cd my-agent

# Cài dependencies
npm install @cloudflare/think agents ai @cloudflare/shell zod workers-ai-provider

11.2. Agent cơ bản

// src/index.ts
import { Think } from '@cloudflare/think';
import { createWorkersAI } from 'workers-ai-provider';
import { tool } from 'ai';
import { z } from 'zod';

interface Env {
  AI: Ai;
}

export class BlogAssistant extends Think<Env> {
  getModel() {
    return createWorkersAI({ binding: this.env.AI })(
      '@cf/meta/llama-4-scout-17b-16e'
    );
  }

  getTools() {
    return {
      searchArticles: tool({
        description: 'Tìm kiếm bài viết theo keyword',
        parameters: z.object({
          query: z.string().describe('Từ khóa tìm kiếm')
        }),
        execute: async ({ query }) => {
          // Agent logic here
          return { results: [] };
        }
      })
    };
  }
}

export default {
  fetch(request: Request, env: Env) {
    // Route to agent
  }
};

11.3. Deploy

# Deploy lên Cloudflare
npx wrangler deploy

# Agent sẵn sàng tại edge, 330+ locations
# Zero cold start, zero idle cost

12. Khi nào nên dùng Cloudflare AI Platform?

13. Kết luận

Cloudflare AI Platform 2026 không chỉ là "thêm AI vào CDN" — đây là một nền tảng hạ tầng hoàn chỉnh cho thế hệ agent tiếp theo. Với AI Gateway thống nhất inference, Workers AI chạy model tại edge, Dynamic Workers code execution, và Project Think biến agent thành durable infrastructure — Cloudflare đang đặt cược rằng tương lai của AI agent không nằm trên laptop hay cloud VM, mà nằm trên mạng lưới edge toàn cầu.

Free tier 10,000 neurons/ngày đủ để bạn bắt đầu thử nghiệm ngay hôm nay, không cần thẻ tín dụng. Và khi scale lên, mô hình Durable Objects đảm bảo bạn chỉ trả tiền cho những gì thực sự chạy.

Nguồn tham khảo:
Cloudflare's AI Platform: an inference layer designed for agents
Project Think: building the next generation of AI agents on Cloudflare
Workers AI Pricing — Cloudflare Docs
Workers AI Overview — Cloudflare Docs
Cloudflare expands Agent Cloud — SiliconANGLE (04/2026)