@@ -32,7 +32,6 @@ export const LLM_MODEL_REGION_MAP: Record<LlmModelType, string> = {
3232 [ LlmModelType . CLAUDE_3_5_SONNET ] : 'us-east-1' ,
3333 [ LlmModelType . CLAUDE_3_5_SONNET_V2 ] : 'us-west-2' ,
3434 [ LlmModelType . CLAUDE_SONNET_4 ] : 'us-east-1' ,
35- [ LlmModelType . CLAUDE_SONNET_4_5 ] : 'us-west-2' ,
3635}
3736
3837// to estimate costs - these numbers can change
@@ -53,79 +52,75 @@ export const LLM_MODEL_PRICING_MAP: Record<LlmModelType, ILlmPricing> = {
5352 costPer1000InputTokens : 0.003 ,
5453 costPer1000OutputTokens : 0.015 ,
5554 } ,
56- [ LlmModelType . CLAUDE_SONNET_4_5 ] : {
57- costPer1000InputTokens : 0.003 ,
58- costPer1000OutputTokens : 0.015 ,
59- } ,
6055}
6156
6257export const LLM_SETTINGS : Record < LlmQueryType , ILlmSettings > = {
6358 [ LlmQueryType . MEMBER_ENRICHMENT ] : {
64- modelId : LlmModelType . CLAUDE_SONNET_4_5 ,
59+ modelId : LlmModelType . CLAUDE_3_5_SONNET ,
6560 arguments : {
6661 max_tokens : 200000 ,
6762 anthropic_version : 'bedrock-2023-05-31' ,
6863 temperature : 0 ,
6964 } ,
7065 } ,
7166 [ LlmQueryType . MEMBER_ENRICHMENT_FIND_RELATED_LINKEDIN_PROFILES ] : {
72- modelId : LlmModelType . CLAUDE_SONNET_4_5 ,
67+ modelId : LlmModelType . CLAUDE_3_5_SONNET_V2 ,
7368 arguments : {
7469 max_tokens : 200000 ,
7570 anthropic_version : 'bedrock-2023-05-31' ,
7671 temperature : 0 ,
7772 } ,
7873 } ,
7974 [ LlmQueryType . MEMBER_ENRICHMENT_SQUASH_MULTIPLE_VALUE_ATTRIBUTES ] : {
80- modelId : LlmModelType . CLAUDE_SONNET_4_5 ,
75+ modelId : LlmModelType . CLAUDE_3_5_SONNET_V2 ,
8176 arguments : {
8277 max_tokens : 200000 ,
8378 anthropic_version : 'bedrock-2023-05-31' ,
8479 temperature : 0 ,
8580 } ,
8681 } ,
8782 [ LlmQueryType . MEMBER_ENRICHMENT_SQUASH_WORK_EXPERIENCES_FROM_MULTIPLE_SOURCES ] : {
88- modelId : LlmModelType . CLAUDE_SONNET_4_5 ,
83+ modelId : LlmModelType . CLAUDE_3_5_SONNET_V2 ,
8984 arguments : {
9085 max_tokens : 200000 ,
9186 anthropic_version : 'bedrock-2023-05-31' ,
9287 temperature : 0 ,
9388 } ,
9489 } ,
9590 [ LlmQueryType . MATCH_MAIN_GITHUB_ORGANIZATION_AND_DESCRIPTION ] : {
96- modelId : LlmModelType . CLAUDE_SONNET_4_5 ,
91+ modelId : LlmModelType . CLAUDE_3_5_SONNET_V2 ,
9792 arguments : {
9893 max_tokens : 200000 ,
9994 anthropic_version : 'bedrock-2023-05-31' ,
10095 temperature : 0 ,
10196 } ,
10297 } ,
10398 [ LlmQueryType . REPO_CATEGORIES ] : {
104- modelId : LlmModelType . CLAUDE_SONNET_4_5 ,
99+ modelId : LlmModelType . CLAUDE_3_5_SONNET_V2 ,
105100 arguments : {
106101 max_tokens : 200000 ,
107102 anthropic_version : 'bedrock-2023-05-31' ,
108103 temperature : 0 ,
109104 } ,
110105 } ,
111106 [ LlmQueryType . REPO_COLLECTIONS ] : {
112- modelId : LlmModelType . CLAUDE_SONNET_4_5 ,
107+ modelId : LlmModelType . CLAUDE_3_5_SONNET_V2 ,
113108 arguments : {
114109 max_tokens : 200000 ,
115110 anthropic_version : 'bedrock-2023-05-31' ,
116111 temperature : 0 ,
117112 } ,
118113 } ,
119114 [ LlmQueryType . MEMBER_BOT_VALIDATION ] : {
120- modelId : LlmModelType . CLAUDE_SONNET_4_5 ,
115+ modelId : LlmModelType . CLAUDE_SONNET_4 ,
121116 arguments : {
122117 max_tokens : 2000 ,
123118 anthropic_version : 'bedrock-2023-05-31' ,
124119 temperature : 0 ,
125120 } ,
126121 } ,
127122 [ LlmQueryType . SELECT_MOST_RELEVANT_DOMAIN ] : {
128- modelId : LlmModelType . CLAUDE_SONNET_4_5 ,
123+ modelId : LlmModelType . CLAUDE_SONNET_4 ,
129124 arguments : {
130125 max_tokens : 2000 ,
131126 anthropic_version : 'bedrock-2023-05-31' ,
0 commit comments