Telegram の会話内の有害な言語を特定する
Telegram の会話を観察し、AI モデレーションを通じて有害な言葉を含むメッセージを特定します。
仕組み
「Telegram の会話における有害な言語の特定」というタイトルのワークフローは、Telegram メッセージを監視し、AI モデレーションを使用して有害な言語を検出するように設計されています。ワークフローは、データと処理の流れを促進する相互接続された一連のノードを通じて動作します。
1. テレグラム トリガー ノード:
ワークフローは、指定されたテレグラム チャットで新しいメッセージをリッスンするテレグラム トリガー ノードから始まります。このノードは、新しいメッセージが投稿されるたびにアクティブになるように構成されています。
2. 関数ノード:
新しいメッセージを取得した後、ワークフローはメッセージの内容を関数ノードに渡します。このノードは、メッセージ テキストやメッセージを送信したユーザーなどの関連情報を抽出することで、次のステップのデータを準備する役割を果たします。
3. HTTP リクエスト ノード:
処理されたメッセージは、外部 AI モデレーション サービスと連携する HTTP リクエスト ノードに送信されます。このノードは、メッセージ テキストを含む POST リクエストを AI サービスに送信するように構成されており、コンテンツの有害な言語が分析されます。
4. IF ノード:
AI サービスが応答を返すと、ワークフローは IF ノードを利用して結果を評価します。このノードは、応答に有害な言語の存在が示されているかどうかを確認します。有害な言語が検出された場合、ワークフローは次のステップに進みます。それ以外の場合は、プロセスが終了します。
5. Telegram Send Message ノード:
有害な言語が特定された場合、ワークフローは Telegram Send Message ノードをトリガーします。このノードは Telegram チャットに通知を送り返し、検出された有害な言語についてユーザーに警告します。メッセージには、問題のあるメッセージとそれを送信したユーザーに関する詳細が含まれる場合があります。
この構造化されたフローにより、すべての新しいメッセージが有害なコンテンツについて評価され、分析に基づいて適切なアクションが実行されます。
主な機能
- リアルタイム監視:
ワークフローは Telegram の会話を継続的に監視し、メッセージの送信時に有害な言語を即座に検出します。
- AI モデレーション:
外部 AI サービスを利用してメッセージ コンテンツを分析し、単純なキーワード フィルタリングを超えて有害な言語を特定する高度なアプローチを提供します。
- ユーザー通知:
有害な言語が検出された場合、Telegram チャット内のユーザーに自動的に警告し、より安全な通信環境を促進します。
- カスタマイズ可能なトリガー:
ワークフローは、特定の Telegram チャットまたはグループを監視するように調整できるため、さまざまなコンテキストでの柔軟な導入が可能になります。
- 拡張性:
複数のメッセージを効率的に処理できるように設計されており、アクティブなグループ チャットやチャネルに適しています。
ツールの統合
ワークフローは、効果的に機能するためにいくつかのツールとサービスを統合します。
- Telegram:
メッセージの受信 (Telegram Trigger ノード) と通知の送信 (Telegram Send Message ノード) の両方に Telegram の API を利用します。
- HTTP リクエスト:
このノードは外部 AI モデレーション サービスに接続し、メッセージ コンテンツの有害な言語の分析を可能にします。
- 関数ノード:
HTTP リクエストのデータを処理して準備し、メッセージの内容が分析に適した形式であることを確認します。
- IF ノード:
AI サービスの応答に基づいて次のステップを決定する条件付きロジックを実装します。
API キーが必要です
このワークフローを正常に操作するには、次の API キーと認証情報が必要です。
- Telegram Bot Token:
Telegram Trigger ノードと Send Message ノードが認証し、Telegram API と対話するために必要です。
- AI モデレーション サービス API キー:
HTTP リクエスト ノードが外部 AI モデレーション サービスへのリクエストを認証するために必要です。
上記で指定されたもの以外に追加の API キーや認証情報は必要ありません。
