[fess-user 112] Re: インデックス破損

Back to archive index

Shinsuke Sugaya shins****@yahoo*****
2010年 2月 3日 (水) 11:33:35 JST


菅谷です。

確認していただきありがとうございます。

> やってみましたが OutOfMemory になりました。

これがログに記述されたのはfess.outで良いでしょうか?
また、OutOfMemory もいくつか種類があるのですが、
Heap などが書いてあるログでしょうか?

> そちらでは発生していないでしょうから Windows をサーバーにし
> たケースでは... ということにはなるのでしょうけど。

こちらの環境で、今までのところ Windows でも観測できて
いないので、クロールするドキュメントのような気もしています。
たとえば、大きなサイズのドキュメントが立て続けに読み込んで
ヒープが足りなくなる状況が発生している可能性があるのかも
しれないと考えています。これも後で実験してみようと
思います。

shinsuke

2010年2月3日8:50 Masayuki Shibata <mshib****@shima*****>:
> 柴田@亀岡市です。
>
> fess.dicon にご指定のブロックを追加 -Xmx1024m としたもので
> やってみましたが OutOfMemory になりました。
> #1/31 版には、このブロック自体が記載されていませんでした
> #ので追加しました。
>
> そこで setenv.bat に -Xmx512m を追加、fess.dicon も -Xmx512m
> に戻して昨夜クロールをかけて帰宅したところ今朝方見る限りで
> は正常に完了したようです。
> #ようですと書いたのは、ラベルとロールを設定したクロール先
> #だったのですが、検索画面にラベル指定のプルダウンは出てき
> #ませんでしたし、ログインして検索かけても何もヒットしなか
> #ったので...
> #クロール先の分量が少ないケースでロールを設定していないも
> #のは昨日検索できましたし、今回インデックスはできているよ
> #うなので別件 (ロール関係?) トラブルかも知れません。
>
> ここしばらくは、ずっと setenv.bat 側 -Xmx1024m でテストして
> おりましたので、メモリを振り分けた形になり増やしたことには
> なっていませんが...
>
> 流石に両方とも -Xmx1024m にすると 32bit OS 機だとメモリフル
> 搭載に近くなってくるので余裕を見て多めという作戦がとりにくい
> ですし、作成するインデックスのサイズなどにメモリ消費量が比例
> するなら双方適正なサイズは知りたいところです。
>
> そちらでは発生していないでしょうから Windows をサーバーにし
> たケースでは... ということにはなるのでしょうけど。
>
>>菅谷です。
>>
>>1/31 版がどこまでの修正が入っているか、すぐには
>>わからないのですが、3.0 ではクロール処理周りを
>>スレッドからプロセスに変更しています。そのため、
>>Tomcat の setenv.bat での指定は不要になりました。
>>
>>これにより、クロールの即時停止やJava自体のバグの
>>影響回避などが実現できます。
>>
>>現在の指定はwebapps/fess/WEB-INF/classes/fess.dicon
>>で設定します。
>>
>>    <component name="systemHelper" class="jp.sf.fess.helper.SystemHelper">
>>        <property name="crawlerJavaOptions"> new String[] {
>>            "-Djava.awt.headless=true", "-server", "-XX:+UseGCOverheadLimit",
>>            "-XX:+UseConcMarkSweepGC", "-XX:+CMSIncrementalMode",
>>            "-XX:+UseTLAB", "-Dpdfbox.cjk.support=true", "-Xmx512m",
>>            "-XX:MaxPermSize=128m" }</property>
>>    </component>
>>
>>上記のmxを変更しても同じようでしたら、OutOfMemoryError の
>>ログ部分をいただければ調査したいと思います。あとは、
>>ヒープの OutOfMemory であれば、
>>
>> - catalina.out なら setenv.bat を編集(Tomcatプロセスのメモリ不足)
>> - fess.out なら fess.dicon を編集 (クロールプロセスのメモリ不足)
>>
>>というように切り分けることができるので mx の設定を
>>どちらかに記述すると良いと思います。
>>
>>よろしくお願いいたします。
>>
>>shinsuke
>>
>>
>>2010年2月2日14:31 Masayuki Shibata <mshib****@shima*****>:
>>> 柴田@亀岡市です。
>>>
>>> 1/31 版スナップショットで題記発生してクロールが止まりました。
>>>
>>> OutOfMemoryError だそうです。
>>>
>>> setenv.bat が以前と変わっていたのでちょっと気になっていたの
>>> ですが、"-Xmx512m" が見あたらないのは、承知の上での変更です
>>> か?
>>>
>>> _______________________________________________
>>> Fess-user mailing list
>>> Fess-****@lists*****
>>> http://lists.sourceforge.jp/mailman/listinfo/fess-user
>>>
>>
>>_______________________________________________
>>Fess-user mailing list
>>Fess-****@lists*****
>>http://lists.sourceforge.jp/mailman/listinfo/fess-user
>>
>
> _______________________________________________
> Fess-user mailing list
> Fess-****@lists*****
> http://lists.sourceforge.jp/mailman/listinfo/fess-user
>




Fess-user メーリングリストの案内
Back to archive index