子ドキュメント内での検索時の遅さ

(The bot translated the original post https://lists.apache.org/thread/7oc43wpkcgsh2wqwdq52bkvcqszd9bcg into Japanese and reposted it under Apache License 2.0. The copyright of posted content is held by the original poster.)
私たちは子ドキュメント内での検索時にパフォーマンスの問題に直面しています。この問題を説明するために、データモデルの非常に簡略化した抜粋を提供します。
私たちは図書館向けの検索エンジンを作成しています。ユーザーに提供したいのは「作品」です。作品の例としては、「ハリー・ポッターと炎のゴブレット」があります。各作品には複数の「形態」がある可能性があります。例えば、作品には書籍版、オーディオブック、場合によっては電子書籍が存在します。もちろん、作品レベルにはプロパティ(作成者、タイトル、主題など)があり、形態レベルには他のプロパティ(出版年、資料の種類など)があります。
これを親ドキュメントと子ドキュメントでモデル化し、それに基づいて検索エンジンを構築しました。この検索エンジンは、作品レベルでの作成者、タイトル、主題などの検索が可能ですが、ユーザーは特定の年のものや電子書籍として利用可能なものだけを検索することもできます。
Solrには約2800万の作品と4100万の形態があり、形態は子ドキュメントとしてインデックスされています(多くの作品には1つの形態しかありません)。
ユーザーが作品レベルで検索する限り、パフォーマンスは問題ありません。しかし、ユーザーが形態レベルで検索すると、パフォーマンスが悪化します。例えば、作成者で検索すると、検索は200ミリ秒未満で実行され、30件程度のヒットが得られます。もし資料の種類でクエリを追加すると({!parent which:'doc_type:work'}materialType:"book"
のような構文)、検索には数秒かかります。この場合、フィルタリングをランキングの一部として扱いたいので、フィルタクエリに入れることは問題になります。
まず作品レベルでの検索を評価し、その後で子要件に一致する形態のフィルタリングを行う方法があるかどうかを考えています。作品レベルのプロパティでの検索を先に行い、IDのみを取得してから、形態レベルの要件に基づいたフル検索とIDでのフィルタクエリを追加する方法を試すことができますが、他により良い方法があるかどうか気になります。
よろしくお願いします、
/Noah
過去の類似のお問い合わせ
- Solr 8.7 を Java 11 Open J9 で起動するときに、コマンドラインオプションが認識されない
(The bot translated the original post https://lists.apache.org/thread/p3t5jbhwzy7xgyv1rlyzcqyl5d4295b5
into Japanese and reposted it under Apache License 2.0. The copyright of posted content is held by the original poster.)こんにちは、
現在、Java 8 から Java 11 への移行を進めています。
Windows上でOpenJ9 Javaを使ってSolr 8.7.0を起動すると、次のメッセージが表示されます:
JVMJ9VM007W Command-line option unrecognised: -Xlog:gc*:file="C:\solr\server\logs\solr_gc.log":time,uptime:filecount=9,filesize=20M JVMJ9GC063E Unable to open file '"C' for writing
その後、コンソールにはガベージコレクションの出力が続きますが、Solrは問題なく起動し、動作しているように見えます。同じリリースのJava 11 Hotspotに変更すると、警告や他の問題は見られません。
Ubuntu上のJava 11 Open J9でも同様の問題が発生します。Solrログには「Command-line option unrecognised」というメッセージが表示されますが、コンソールには表示されません。
solr_gc
ログは正しく作成され、内容も記録されています。これを確認したのは、OpenJDK 11.0.10+9リリースを使用した場合です。
以下は私たちの起動コマンドの例です:
C:/solr/bin/solr.cmd start -c -p 8983 -s C:/data/solr/8/clusters/is_cluster/nodes/node1 -a "-Dcom.ibm.crypto.provider.DoRSATypeChecking=false -Djetty.server=com.i2group.disco.search.solr.jetty.wrapper.XmlConfigurationWrapper -Dpkiauth.ttl=60000 -Dsolr-node-id=node1 -DzkCredentialsProvider=com.i2group.disco.search.solr.common.zookeeper.auth.internal.EncodedZkCredentialsProvider -Djdk.nativeCrypto=false" -m 2g -z "localhost:9983/is_cluster"
よろしくお願いします。
Lisa
- CustomBreakIteratorのパフォーマンスに関する問題
(The bot translated the original post https://lists.apache.org/thread/4kryrpfp9bdl3dbyb77vnmlfdlcg0dcd
into Japanese and reposted it under Apache License 2.0. The copyright of posted content is held by the original poster.)こんにちは、
現在、統合ハイライト機能でカスタムBreakIteratorを動作させる作業をしており、パフォーマンスに苦労しています。
私はパッセージの見出しをきれいにハイライトするためにBreakIteratorが必要です。これにより、ハイライトの開始が文の開始であり、終了が単語の終わりであるようにしたいです。また、いくつかの奇妙なエッジケースもあります。
すでにBreakIteratorをコーディングし、カスタムUnifiedHighlighterクラスに統合しましたが、このIteratorを使用すると、すべてのリクエストのqTimeが約1000から12000以上に上昇し、このアプリケーションでは許容できません。
こちらが私の実装へのリンクです。どこが非常に非効率的なのかを見つけることができません。(これらの関数が非常に頻繁に呼び出されることはわかっています)
他のアプローチも含め、すべての提案を歓迎します。
したがって、BreakIteratorや関連する情報について詳しく学ぶための良いリソースはありますか?ここではコードの調査が非常に難しいです。
次に検討しているもう1つのアプローチは、最終的なハイライトが見つかったときにこのハイライトの「トリミング」を行うことです。これにより、呼び出されるロジックの量が減少しますが、SOLRのスコアリングシステムが正しく考慮されない可能性があると思われます。
私が言ったように、すべての提案を歓迎し、先にお礼を申し上げます。
Jan Ulrich Robens
- ZooKeeperのupconfigはZK_HOST形式のURLを認識しません
(The bot translated the original post https://lists.apache.org/thread/tfpn1tlgosx67n5omzpkmrdzvsbr02bd
into Japanese and reposted it under Apache License 2.0. The copyright of posted content is held by the original poster.)こんにちは、
Solrのコントロールスクリプトを使用して新しいconfigsetをZooKeeperにアップロードしようとしたところ、-zパラメータがZK_HOST形式の文字列を認識しませんでした。
たとえば、
<ip-1>,<ip-2>,<ip-3>/solr
を使用すると、configが/solr znodeではなく、直接<ip-1>
にアップロードされます。これが意図された動作かどうかについて助けていただけないでしょうか?
注:
<ip-1>/solr,<ip-2>/solr,<ip-3>/solr
はうまく機能するようです。 - 検索ストリーミング式で特定のシャードからドキュメントを取得
(The bot translated the original post https://lists.apache.org/thread/vdqjcy6frv9c2kg97xh244ppj1v5jgc2
into Japanese and reposted it under Apache License 2.0. The copyright of posted content is held by the original poster.)「Search streaming expression」で単一の特定のシャード(または特定のレプリカ)からすべてのドキュメントをストリームできますか? 通常の「shards」パラメータを使用しても、Search streaming exprと一緒に使用すると効果がないと思います。
--ufuk
- 使用ケース:フィールド内のアイテムのカウント
もしJaccard類似度に近いものを探しているのであれば、以下のリンクを使うことができます: https://nightlies.apache.org/solr/draft-guides/solr-reference-guide-main/other-parsers.html#minhash-query-parser
Joel Bernstein
http://joelsolr.blogspot.com/
トピックへ返信するには、ログインが必要です。