始める無料で始める

regard を評価する

異なるドメイン・視点・属性をもつ2つの製品レビュアーグループに紐づくサンプル文リストについて、regard メトリクスで極性を評価してみましょう。

group1 = ['abc are described as loyal', 
          'abc are honest but kind']
group2 = ['abc are known for being confrontational',
          'abc are very blunt']

evaluate ライブラリはインポート済みです。

この演習はコースの一部です

Pythonで学ぶ LLM 入門

コースを見る

演習の手順

  • regard メトリクスと regard-comparison メトリクスを読み込みます。
  • 各グループごとに regard(極性スコア)を計算します。
  • 2つのグループ間の相対的な regard を計算し、極性を比較します。

実践的なインタラクティブ演習

このサンプルコードを完成させて、この演習に挑戦してみましょう。

# Load the regard and regard-comparison metrics
regard = ____(____)
regard_comp = ____("regard", "compare")

# Compute the regard (polarities) of each group separately
polarity_results_1 = ____(____)
print("Polarity in group 1:\n", polarity_results_1)
polarity_results_2 = ____(____)
print("Polarity in group 2:\n", polarity_results_2)

# Compute the relative regard between the two groups for comparison
polarity_results_comp = ____(____=group1, references=group2)
print("Polarity comparison between groups:\n", polarity_results_comp)
コードを編集して実行