Indeksowanie zrzutu wikipedii za pomocą solr
Mam zainstalowany solr 3.6.2 na moim komputerze, idealnie działający z tomcatem. Chcę zindeksować plik zrzutu wikipedii przy użyciu solr. Jak to zrobić za pomocą DataImportHandler? W jakikolwiek inny sposób? Nie mam żadnej wiedzy o xml.
Plik, o którym wspomniałem, ma rozmiar około 45 GB po wyodrębnieniu. Każda pomoc byłaby bardzo mile widziana.
Aktualizacja - Próbowałem robić to, co powiedziałem na stronie DataImportHandler. Ale może być jakiś błąd, ponieważ ich wersja solr jest znacznie starsza.
My data.config-
<dataConfig>
<dataSource type="FileDataSource" encoding="UTF-8" />
<document>
<entity name="page"
processor="XPathEntityProcessor"
stream="true"
forEach="/mediawiki/page/"
url="./data/enwiki.xml"
transformer="RegexTransformer,DateFormatTransformer"
>
<field column="id" xpath="/mediawiki/page/id" />
<field column="title" xpath="/mediawiki/page/title" />
<field column="revision" xpath="/mediawiki/page/revision/id" />
<field column="user" xpath="/mediawiki/page/revision/contributor/username" />
<field column="userId" xpath="/mediawiki/page/revision/contributor/id" />
<field column="text" xpath="/mediawiki/page/revision/text" />
<field column="timestamp" xpath="/mediawiki/page/revision/timestamp" dateTimeFormat="yyyy-MM-dd'T'hh:mm:ss'Z'" />
<field column="$skipDoc" regex="^#REDIRECT .*" replaceWith="true" sourceColName="text"/>
</entity>
</document>
Schemat (właśnie dodałem części, które podali na stronie do mojego pliku schema.xml)
Błąd, który otrzymuję -
<response>
<lst name="responseHeader">
<int name="status">0</int>
<int name="QTime">0</int>
</lst>
<lst name="initArgs">
<lst name="defaults">
<str name="config">solr-data-config.xml</str>
</lst>
</lst>
<str name="command">full-import</str>
<str name="status">idle</str>
<str name="importResponse"/>
<lst name="statusMessages">
<str name="Time Elapsed">0:0:1.381</str>
<str name="Total Requests made to DataSource">0</str>
<str name="Total Rows Fetched">0</str>
<str name="Total Documents Processed">0</str>
<str name="Total Documents Skipped">0</str>
<str name="">Indexing failed. Rolled back all changes.</str>
<str name="Rolledback">2013-05-17 16:48:32</str>
</lst>
<str name="WARNING">
This response format is experimental. It is likely to change in the future.
</str>
</response>
proszę pomóż