Bedrock Claude 채팅 (Nova)

Warning

V2가 출시되었습니다. 업데이트를 위해 마이그레이션 가이드를 주의 깊게 검토해 주세요. 주의하지 않으면 V1의 봇은 사용할 수 없게 됩니다.

Amazon Bedrock에서 제공하는 LLM 모델을 사용하는 다국어 챗봇입니다.

YouTube에서 개요 및 설치 영상 보기

기본 대화

봇 개인화

고유한 지시사항을 추가하고 URL 또는 파일로 외부 지식을 제공할 수 있습니다 (이른바 RAG). 봇은 애플리케이션 사용자 간에 공유될 수 있으며, 사용자 지정된 봇은 독립형 API로 게시될 수도 있습니다 (자세히 보기).

Important

거버넌스 이유로 허용된 사용자만 맞춤형 봇을 생성할 수 있습니다. 맞춤형 봇 생성을 허용하려면 사용자가 CreatingBotAllowed 그룹의 구성원이어야 합니다. 이는 관리 콘솔 > Amazon Cognito 사용자 풀 또는 AWS CLI를 통해 설정할 수 있습니다. 사용자 풀 ID는 CloudFormation > BedrockChatStack > 출력 > AuthUserPoolIdxxxx에서 확인할 수 있습니다.

관리자 대시보드

관리자 대시보드에서 각 사용자/봇의 사용량을 분석할 수 있습니다. 자세히 보기

LLM 기반 에이전트

에이전트 기능을 사용하면 챗봇이 더 복잡한 작업을 자동으로 처리할 수 있습니다. 예를 들어, 사용자의 질문에 답하기 위해 에이전트는 외부 도구에서 필요한 정보를 검색하거나 작업을 여러 단계로 나누어 처리할 수 있습니다.

🚀 초간단 배포

us-east-1 리전에서 Bedrock 모델 액세스로 이동 > 모델 액세스 관리 > Anthropic / Claude 3 전체, Amazon / Nova 전체, Amazon / Titan Text Embeddings V2, Cohere / Embed Multilingual를 모두 선택한 후 변경 사항 저장.

스크린샷

배포하려는 리전의 CloudShell을 엽니다.
다음 명령어로 배포를 진행합니다. 특정 버전을 배포하거나 보안 정책을 적용하려면 선택적 매개변수에서 적절한 매개변수를 지정하세요.

git clone https://github.com/aws-samples/bedrock-claude-chat.git
cd bedrock-claude-chat
chmod +x bin.sh
./bin.sh

새 사용자인지 v2를 사용하는지 묻는 메시지가 표시됩니다. v0의 기존 사용자가 아니라면 y를 입력하세요.

선택적 매개변수

배포 시 다음 매개변수를 지정하여 보안 및 맞춤 설정을 강화할 수 있습니다:

--disable-self-register: 자가 등록 비활성화 (기본값: 활성화됨). 이 플래그를 설정하면 Cognito에서 모든 사용자를 직접 생성해야 하며 사용자 자체 계정 등록이 허용되지 않습니다.
--enable-lambda-snapstart: Lambda SnapStart 활성화 (기본값: 비활성화). 이 플래그를 설정하면 Lambda 함수의 콜드 스타트 시간이 개선되어 더 빠른 응답 시간을 제공합니다.
--ipv4-ranges: 허용된 IPv4 범위의 쉼표로 구분된 목록. (기본값: 모든 IPv4 주소 허용)
--ipv6-ranges: 허용된 IPv6 범위의 쉼표로 구분된 목록. (기본값: 모든 IPv6 주소 허용)
--disable-ipv6: IPv6를 통한 연결 비활성화. (기본값: 활성화됨)
--allowed-signup-email-domains: 가입에 허용된 이메일 도메인의 쉼표로 구분된 목록. (기본값: 도메인 제한 없음)
--bedrock-region: Bedrock을 사용할 수 있는 리전 정의. (기본값: us-east-1)
--repo-url: 포크되거나 사용자 정의된 소스 제어의 Bedrock Claude Chat 맞춤 저장소. (기본값: https://github.com/aws-samples/bedrock-claude-chat.git)
--version: 배포할 Bedrock Claude Chat 버전. (기본값: 개발 중인 최신 버전)
--cdk-json-override: 배포 중 CDK 컨텍스트 값을 재정의할 수 있는 JSON 블록. 이를 통해 cdk.json 파일을 직접 편집하지 않고도 구성을 수정할 수 있습니다.

사용 예:

./bin.sh --cdk-json-override '{
  "context": {
    "selfSignUpEnabled": false,
    "enableLambdaSnapStart": true,
    "allowedIpV4AddressRanges": ["192.168.1.0/24"],
    "allowedSignUpEmailDomains": ["example.com"]
  }
}'

재정의 JSON은 cdk.json과 동일한 구조를 따라야 합니다. 다음을 포함한 모든 컨텍스트 값을 재정의할 수 있습니다:

selfSignUpEnabled
enableLambdaSnapStart
allowedIpV4AddressRanges
allowedIpV6AddressRanges
allowedSignUpEmailDomains
bedrockRegion
enableRagReplicas
enableBedrockCrossRegionInference
cdk.json에 정의된 기타 컨텍스트 값

[!참고] 재정의 값은 AWS 코드 빌드 배포 시 기존 cdk.json 구성과 병합됩니다. 재정의에 지정된 값은 cdk.json의 값보다 우선순위가 높습니다.

매개변수가 포함된 예시 명령어:

./bin.sh --disable-self-register --ipv4-ranges "192.0.2.0/25,192.0.2.128/25" --ipv6-ranges "2001:db8:1:2::/64,2001:db8:1:3::/64" --allowed-signup-email-domains "example.com,anotherexample.com" --bedrock-region "us-west-2" --version "v1.2.6"

약 35분 후, 브라우저에서 액세스할 수 있는 다음 출력을 얻게 됩니다.

프론트엔드 URL: https://xxxxxxxxx.cloudfront.net

위와 같이 이메일을 등록하고 로그인할 수 있는 가입 화면이 나타납니다.

[!중요] 선택적 매개변수를 설정하지 않으면 URL을 아는 누구나 가입할 수 있습니다. 프로덕션 환경에서는 IP 주소 제한을 추가하고 자가 가입을 비활성화하여 보안 위험을 완화하는 것이 강력히 권장됩니다(회사 도메인의 이메일 주소만 가입할 수 있도록 allowed-signup-email-domains을 정의할 수 있습니다). ./bin 실행 시 ipv4-ranges와 ipv6-ranges를 모두 사용하여 IP 주소를 제한하고, disable-self-register를 사용하여 자가 가입을 비활성화하세요.

[!팁] 프론트엔드 URL이 나타나지 않거나 Bedrock Claude Chat이 제대로 작동하지 않는 경우, 최신 버전에 문제가 있을 수 있습니다. 이 경우 매개변수에 --version "v1.2.6"을 추가하고 다시 배포해 보세요.

아키텍처

AWS 관리형 서비스를 기반으로 구축된 아키텍처로, 인프라 관리의 필요성을 제거합니다. Amazon Bedrock을 활용하여 AWS 외부 API와 통신할 필요가 없습니다. 이를 통해 확장 가능하고, 안정적이며, 안전한 애플리케이션을 배포할 수 있습니다.

Amazon DynamoDB: 대화 이력 저장을 위한 NoSQL 데이터베이스
Amazon API Gateway + AWS Lambda: 백엔드 API 엔드포인트 (AWS Lambda Web Adapter, FastAPI)
Amazon CloudFront + S3: 프론트엔드 애플리케이션 전송 (React, Tailwind CSS)
AWS WAF: IP 주소 제한
Amazon Cognito: 사용자 인증
Amazon Bedrock: API를 통해 기본 모델을 활용하는 관리형 서비스
Amazon Bedrock 지식 기반: 검색 증강 생성(RAG)을 위한 관리형 인터페이스 제공, 문서 임베딩 및 구문 분석 서비스 제공
Amazon EventBridge Pipes: DynamoDB 스트림에서 이벤트 수신 및 외부 지식 임베딩을 위한 Step Functions 실행
AWS Step Functions: Bedrock 지식 기반에 외부 지식을 임베딩하기 위한 수집 파이프라인 오케스트레이션
Amazon OpenSearch Serverless: Bedrock 지식 기반의 백엔드 데이터베이스로 전체 텍스트 검색 및 벡터 검색 기능 제공, 관련 정보의 정확한 검색 가능
Amazon Athena: S3 버킷 분석을 위한 쿼리 서비스

CDK를 사용하여 배포하기

간편한 배포는 AWS CodeBuild를 사용하여 내부적으로 CDK로 배포를 수행합니다. 이 섹션에서는 CDK를 직접 사용하여 배포하는 절차를 설명합니다.

UNIX, Docker, Node.js 런타임 환경이 필요합니다. 없는 경우 Cloud9을 사용할 수 있습니다.

Important

배포 중 로컬 환경의 저장 공간이 부족하면 CDK 부트스트래핑에서 오류가 발생할 수 있습니다. Cloud9 등에서 실행 중인 경우 배포 전에 인스턴스의 볼륨 크기를 확장하는 것이 좋습니다.

저장소 복제

git clone https://github.com/aws-samples/bedrock-claude-chat

npm 패키지 설치

cd bedrock-claude-chat
cd cdk
npm ci

필요한 경우 cdk.json의 다음 항목을 편집하십시오.
- bedrockRegion: Bedrock을 사용할 수 있는 리전. 참고: Bedrock은 현재 모든 리전을 지원하지 않습니다.
- allowedIpV4AddressRanges, allowedIpV6AddressRanges: 허용된 IP 주소 범위.
- enableLambdaSnapStart: 기본값은 true입니다. Lambda SnapStart for Python 함수를 지원하지 않는 리전에 배포하는 경우 false로 설정하십시오.
CDK를 배포하기 전에 배포할 리전에 대해 한 번 부트스트랩해야 합니다.

npx cdk bootstrap

이 샘플 프로젝트 배포

npx cdk deploy --require-approval never --all

다음과 유사한 출력을 얻게 됩니다. 웹 앱의 URL은 BedrockChatStack.FrontendURL에서 출력되므로 브라우저에서 액세스하십시오.

 ✅  BedrockChatStack

✨  Deployment time: 78.57s

Outputs:
BedrockChatStack.AuthUserPoolClientIdXXXXX = xxxxxxx
BedrockChatStack.AuthUserPoolIdXXXXXX = ap-northeast-1_XXXX
BedrockChatStack.BackendApiBackendApiUrlXXXXX = https://xxxxx.execute-api.ap-northeast-1.amazonaws.com
BedrockChatStack.FrontendURL = https://xxxxx.cloudfront.net

기타

Mistral 모델 지원 구성

cdk.json에서 enableMistral을 true로 업데이트하고 npx cdk deploy를 실행하세요.

...
  "enableMistral": true,

[!중요] 이 프로젝트는 Anthropic Claude 모델에 중점을 두고 있으며, Mistral 모델은 제한적으로 지원됩니다. 예를 들어, 프롬프트 예시는 Claude 모델을 기반으로 합니다. 이는 Mistral 전용 옵션이며, Mistral 모델을 활성화하면 모든 채팅 기능에 Mistral 모델만 사용할 수 있으며 Claude와 Mistral 모델을 함께 사용할 수 없습니다.

기본 텍스트 생성 구성

사용자는 맞춤 봇 생성 화면에서 텍스트 생성 매개변수를 조정할 수 있습니다. 봇이 사용되지 않는 경우 config.py에 설정된 기본 매개변수가 사용됩니다.

DEFAULT_GENERATION_CONFIG = {
    "max_tokens": 2000,
    "top_k": 250,
    "top_p": 0.999,
    "temperature": 0.6,
    "stop_sequences": ["Human: ", "Assistant: "],
}

리소스 제거

CLI 및 CDK를 사용하는 경우 npx cdk destroy를 실행하세요. 그렇지 않은 경우 CloudFormation에 접속하여 BedrockChatStack과 FrontendWafStack을 수동으로 삭제하세요. FrontendWafStack은 us-east-1 리전에 있습니다.

언어 설정

이 에셋은 i18next-browser-languageDetector를 사용하여 언어를 자동으로 감지합니다. 애플리케이션 메뉴에서 언어를 전환할 수 있습니다. 또는 아래와 같이 쿼리 문자열을 사용하여 언어를 설정할 수 있습니다.

https://example.com?lng=ja

자체 가입 비활성화

이 샘플은 기본적으로 자체 가입이 활성화되어 있습니다. 자체 가입을 비활성화하려면 cdk.json을 열고 selfSignUpEnabled를 false로 변경하세요. 외부 ID 공급자를 구성하면 이 값은 무시되고 자동으로 비활성화됩니다.

가입 이메일 주소의 도메인 제한

기본적으로 이 샘플은 가입 이메일 주소의 도메인을 제한하지 않습니다. 특정 도메인에서만 가입을 허용하려면 cdk.json을 열고 allowedSignUpEmailDomains에 도메인 목록을 지정하세요.

"allowedSignUpEmailDomains": ["example.com"],

외부 ID 공급자

이 샘플은 외부 ID 공급자를 지원합니다. 현재 Google과 맞춤 OIDC 공급자를 지원합니다.

새 사용자를 그룹에 자동으로 추가

이 샘플에는 사용자에게 권한을 부여하기 위한 다음 그룹이 있습니다:

관리자
봇 생성 허용
게시 허용

새로 생성된 사용자를 자동으로 그룹에 추가하려면 cdk.json에서 지정할 수 있습니다.

"autoJoinUserGroups": ["봇 생성 허용"],

기본적으로 새로 생성된 사용자는 봇 생성 허용 그룹에 추가됩니다.

(나머지 부분도 동일한 방식으로 번역됩니다)

연락처

Takehiro Suzuki
Yusuke Wada
Yukinobu Mine

🏆 주요 기여자

k70suK3-k06a7ash1
fsatsuki

기여자

라이선스

이 라이브러리는 MIT-0 라이선스에 따라 배포됩니다. LICENSE 파일을 참조하세요.

Provide feedback

Saved searches

Use saved searches to filter your results more quickly

README_ko-KR.md

README_ko-KR.md

Bedrock Claude 채팅 (Nova)

YouTube에서 개요 및 설치 영상 보기

기본 대화

봇 개인화

관리자 대시보드

LLM 기반 에이전트

🚀 초간단 배포

선택적 매개변수

매개변수가 포함된 예시 명령어:

아키텍처

CDK를 사용하여 배포하기

기타

Mistral 모델 지원 구성

기본 텍스트 생성 구성

리소스 제거

언어 설정

자체 가입 비활성화

가입 이메일 주소의 도메인 제한

외부 ID 공급자

새 사용자를 그룹에 자동으로 추가

연락처

🏆 주요 기여자

기여자

라이선스

Files

README_ko-KR.md

Latest commit

History

README_ko-KR.md

File metadata and controls

Bedrock Claude 채팅 (Nova)

YouTube에서 개요 및 설치 영상 보기

기본 대화

봇 개인화

관리자 대시보드

LLM 기반 에이전트

🚀 초간단 배포

선택적 매개변수

매개변수가 포함된 예시 명령어:

아키텍처

CDK를 사용하여 배포하기

기타

Mistral 모델 지원 구성

기본 텍스트 생성 구성

리소스 제거

언어 설정

자체 가입 비활성화

가입 이메일 주소의 도메인 제한

외부 ID 공급자

새 사용자를 그룹에 자동으로 추가

연락처

🏆 주요 기여자

기여자

라이선스