Administratorfunksjonene er et avgjørende verktøy som gir vesentlige innsikter i bruk av tilpassede chatbots og brukernes atferd. Uten disse funksjonene ville det være vanskelig for administratorer å forstå hvilke tilpassede chatbots som er populære, hvorfor de er populære, og hvem som bruker dem. Denne informasjonen er avgjørende for å optimalisere instruksjonsprompter, tilpasse RAG-datakilder og identifisere tunge brukere som potensielt kan være påvirkere.
Resultatet fra LLM oppfyller ikke alltid brukerens forventninger. Noen ganger klarer den ikke å tilfredsstille brukerens behov. For effektivt å "integrere" LLM-er i forretningsdrift og dagligliv, er implementering av en tilbakemeldingssløyfe avgjørende. Bedrock Claude Chat er utstyrt med en tilbakemeldingsfunksjon som er designet for å gjøre det mulig for brukere å analysere hvorfor misnøye oppstod. Basert på analyseresultatene kan brukere justere promptene, RAG-datakilder og parametere tilsvarende.
Dataanalytikere kan få tilgang til samtalelogger ved hjelp av Amazon Athena. Hvis de ønsker å analysere dataene i Jupyter Notebook, kan denne notatbokeksempelet være en referanse.
Gir for øyeblikket en grunnleggende oversikt over chatbots og brukerbruk, med fokus på å samle inn data for hver bot og bruker over angitte tidsperioder og sortere resultatene etter bruksgebyrer.
Note
Brukerbruksanalyse kommer snart.
Administratorbrukeren må være medlem av gruppen kalt Admin
, som kan settes opp via administrasjonskonsollen > Amazon Cognito User pools eller AWS CLI. Merk at brukergruppe-IDen kan refereres ved å åpne CloudFormation > BedrockChatStack > Outputs > AuthUserPoolIdxxxx
.
-
Som nevnt i arkitekturen, vil administratorfunksjonene referere til S3-bøtten som er eksportert fra DynamoDB. Vær oppmerksom på at siden eksporten utføres hver time, vil de siste samtalene kanskje ikke umiddelbart gjenspeiles.
-
Ved offentlig bruk av botter vil botter som overhodet ikke har blitt brukt i den angitte perioden, ikke bli oppført.
-
Ved brukerbruk vil brukere som overhodet ikke har brukt systemet i den angitte perioden, ikke bli oppført.
Du kan søke i samtaleloggene ved hjelp av Athena, ved å bruke SQL. For å laste ned logger, åpne Athena Query Editor fra administrasjonskonsollen og kjør SQL. Følgende er noen eksempelspørringer som er nyttige for å analysere brukstilfeller. Tilbakemelding kan refereres i MessageMap
-attributtet.
Rediger bot-id
og datehour
. bot-id
kan refereres på Bot Management-skjermen, som kan nås fra Bot Publish APIs, vist i venstre sidestolpe. Legg merke til slutten av URL-en som https://xxxx.cloudfront.net/admin/bot/<bot-id>
.
SELECT
d.newimage.PK.S AS UserId,
d.newimage.SK.S AS ConversationId,
d.newimage.MessageMap.S AS MessageMap,
d.newimage.TotalPrice.N AS TotalPrice,
d.newimage.CreateTime.N AS CreateTime,
d.newimage.LastMessageId.S AS LastMessageId,
d.newimage.BotId.S AS BotId,
d.datehour AS DateHour
FROM
bedrockchatstack_usage_analysis.ddb_export d
WHERE
d.newimage.BotId.S = '<bot-id>'
AND d.datehour BETWEEN '<yyyy/mm/dd/hh>' AND '<yyyy/mm/dd/hh>'
AND d.Keys.SK.S LIKE CONCAT(d.Keys.PK.S, '#CONV#%')
ORDER BY
d.datehour DESC;
Rediger user-id
og datehour
. user-id
kan refereres på Bot Management-skjermen.
[!Merk] Brukerbruksanalyse kommer snart.
SELECT
d.newimage.PK.S AS UserId,
d.newimage.SK.S AS ConversationId,
d.newimage.MessageMap.S AS MessageMap,
d.newimage.TotalPrice.N AS TotalPrice,
d.newimage.CreateTime.N AS CreateTime,
d.newimage.LastMessageId.S AS LastMessageId,
d.newimage.BotId.S AS BotId,
d.datehour AS DateHour
FROM
bedrockchatstack_usage_analysis.ddb_export d
WHERE
d.newimage.PK.S = '<user-id>'
AND d.datehour BETWEEN '<yyyy/mm/dd/hh>' AND '<yyyy/mm/dd/hh>'
AND d.Keys.SK.S LIKE CONCAT(d.Keys.PK.S, '#CONV#%')
ORDER BY
d.datehour DESC;