Mulai dengan LangChain

seamless.ai.id kompatibel dengan API OpenAI. Yang berbeda hanya base URL dan API key:

https://16-79-198-229.sslip.io/v1

1. Siapkan API key

Pendaftaran mandiri belum dibuka: minta API key ke operator seamless.ai.id. Isi saldo dari dashboard (QRIS) sebelum memanggil model berbayar. Simpan key di variabel lingkungan, jangan di kode:

export SEAMLESS_API_KEY='sk-seamless-...'

2. Pasang integrasi OpenAI LangChain

pip install langchain-openai

3. Panggilan pertama

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="qwen/qwen2.5-0.5b-instruct",
    base_url="https://16-79-198-229.sslip.io/v1",
    api_key=os.environ["SEAMLESS_API_KEY"],
    max_tokens=500,
)
print(llm.invoke("Halo! Apa itu AI gateway?").content)

Streaming dan memilih provider

Opsi gateway dikirim lewat extra_body (bukan model_kwargs); opsi lengkapnya di ringkasan. Chain, agent, dan tool LangChain memakai llm ini seperti model OpenAI.

import os
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="qwen/qwen2.5-0.5b-instruct",
    base_url="https://16-79-198-229.sslip.io/v1",
    api_key=os.environ["SEAMLESS_API_KEY"],
    # Field milik gateway; extra_body, bukan model_kwargs.
    extra_body={"gateway": {"routing": {"order": ["default"]}}},
)
for chunk in llm.stream("Ceritakan sejarah singkat Jakarta."):
    print(chunk.content, end="", flush=True)
print()

Kalau gagal

Error berformat OpenAI (error.type, error.code, error.param); daftar kode yang paling sering ada di ringkasan.