Bij mij ging het ophalen van de data ook niet heel snel, dat was ook de reden dat het zo lang duurde voordat ik eindelijk alles had. En dat met die AT zou een optie kunnen zijn, elk half uur die ophalen zou geen extra belasting vormen voor FOK!, en kan gewoon gedaan worden door even een simpele cronjob in te stellen.quote:Op woensdag 23 april 2008 09:15 schreef JortK het volgende:
[..]
Ik ben op dit moment bezig met het indexeren zodat ik stats kan brengen zoals JeRa dat deed, maar ik heb de frequentie behoorlijk laag staan, zodat ik het forum bijna niet belast
1 |
quote:Op woensdag 19 maart 2008 23:46 schreef The_Terminator het volgende:
Ja, je leest de TT goed, ik ben namelijk al een tijdje bezig om een werkende search voor FOK! te maken. Dit is een geheel eigen project, ik heb alleen wat hulp gehad van Breuls om het inloggen op FOK! goed te laten verlopen, ik had nogal wat problemen met het wegschrijven van de benodigde cookies en het beheren van de sessies voor mijn indexeer script.
Deze search zoekt in meer dan een miljoen topics, om de 2 dagen zorg ik ervoor dat de index weer up-to-date wordt gemaakt. Om de snelheid op orde te houden indexeer ik alleen de OP van een topic, reacties veroorzaken alleen maar ruis en dat komt de zoekresultaten niet ten goede, ook zou ik als ik de reacties meeindexeer gigantisch veel data in mijn database weg moeten schrijven. Ook belast dit FOK! minder aangezien ik het topic inlaad met alleen de OP zichtbaar, 1 post per pagina.
Op het moment heb ik het forum volledig geindexeerd (met uitzondering van besloten fora natuurlijk). Verder maakt deze zoekfunctie gebruik van Lucene, een zoekengine geschreven in Java die zonder enig probleem miljoenen topics zou moeten kunnen doorzoeken in een zeer korte tijd.
Nu moet de search natuurlijk wel getest worden, dit is de URL: http://www.thuisserver.net/foksearch/
Mocht je rare dingen tegenkomen of als de search uitzonderlijk traag gaat kun je dat hier vermelden, ben benieuwd wat jullie er van vinden. Mochten er problemen zijn met betrekking tot beveiligingfouten dan ontvang ik dat het liefst per PM.
Zoals je ziet check ik ze inderdaad goedquote:hey tt, check je je statistieken wel goed?
quote:Op vrijdag 25 april 2008 22:43 schreef The_Terminator het volgende:
[..]
Wou je verder nog een reactie geven?
Misschien moet je hem ff een PM sturenquote:Op zondag 27 april 2008 21:43 schreef The_Terminator het volgende:
Schop!
Dat was ikquote:Op maandag 28 april 2008 01:37 schreef The_Terminator het volgende:
Aan degene die dit zocht:
[..]
Zoals je ziet check ik ze inderdaad goed
Jup, een underscore wordt idd niet meegenomen aangezien dat bij het indexeren ook al verwijderd is, als de underscore dan wel wordt meegenomen in de zoekopdracht wordt er niets gevonden.quote:Op maandag 28 april 2008 09:06 schreef Jegorex het volgende:
[..]
Dat was ik
_ word niet meegenomen in een zoekopdracht?
Ik dacht dat ik "T_T" had ingevoerd ipv "tt"
Bedankt voor het melden, opgelost.quote:Op maandag 28 april 2008 16:35 schreef JortK het volgende:
Ik heb trouwens denk ik een bug gevonden.
Ik was op zoek naar een topic waarvan ik wist dat die door tuvai.net geopend is.
Ik zoek op topicstarter 'tuvai.net', no results.
Voer ik hem gewoon in het zoekopdrachtscherm in dan krijg ik wel results, met als topicstarter... tuvai.net !
Het is een enorme vooruitgang t.o.v. Fok's eigen zoekfunctie! De grootste beperking is natuurlijk dat alleen in openingsposts wordt gezocht, maar Fok's eigen search geeft alleen resultaten op topicniveau in plaats van berichtniveau, wat erg onpraktisch is en veel onzinresultaten geeft. Dus wat dat betreft geen klachten en alle lof. Maar heb je op dat punt nog plannen - wil je je ooit aan een volledige index wagen, met alle berichten en op berichtniveau, gesteld dat je de hoeveelheid data aankunt? Het zou natuurlijk het mooist zijn als een searchsysteem lokaal kon draaien en rechtstreeks toegang tot Fok's eigen database had (via ODBC) om de indexen 's nachts bij te werken met de nieuwe berichten..quote:Op dinsdag 22 april 2008 17:26 schreef The_Terminator het volgende:
En, wat vinden jullie van de search in de huidige staat?
Bedankt voor de feedbackquote:
Er werkt iets niet goed bij u:quote:Op maandag 28 april 2008 21:21 schreef The_Terminator het volgende:
Ik heb even een nieuwe functie toegevoegd, namelijk het zogenaamde 'proximity search', dit betekend dat je kunt zoeken op nabijgelegen woorden. Als je bijv. zoekt op 'bier' en 'tieten' en deze woorden mogen maximaal 2 woorden van elkaar afliggen kun je als zoekopdracht het volgende opgeven: "bier tieten"~2 (waar de 2 aangeeft dat de woorden maximaal 2 woorden van elkaar mogen liggen).
Overigens heb ik plannen om het 'zonder topicstarter' veld te verwijderen aangezien dit niet veel toegevoegde waarde heeft (zoals hierboven al vermeld). Mochten er mensen zijn die toch heil in deze functie zien graag hier even vermelden, mocht ik hier weinig respons op krijgen gaat het veld richting dev/null.
quote:Warning: fsockopen(): unable to connect to 192.168.0.11:8080 in /srv/www/htdocs/foksearch/searchcore/luceneparser.php on line 262
Klopt, ik weet dat. De voeding van de zoekserver is kapot, en dit kan ik niet zo even 123 repareren. Overigens vraag ik mij af of het überhaupt de moeite, laat staan het geld waard is om te doen, ik ontvang verder geen respons meer in dit topic, zelfs niet als ik vraag of ik iets zonder problemen weg zou kunnen halen. Ook is de search in 2 dagen tijd maar 1x gebruikt en wordt her en der door mensen die weten dat deze search bestaat gewoon Google aanbevolen. Opzich geen probleem, maar het is een beetje een signaal naar mij dat mijn search eigenlijk maar overbodig is en dat de lite search en Google het stukken beter doen. Ik vind het dan een beetje jammer om er dag en nacht een extra pc voor te moeten laten draaien of geld aan te spenderen.quote:
Daar heb jij gelijk in, maar ik vind het zonde dat er idd niet meer mee gedaan wordt. Google vind echt twee maal niets vergeleken met jouw Search.quote:Op vrijdag 2 mei 2008 00:42 schreef The_Terminator het volgende:
[..]
Klopt, ik weet dat. De voeding van de zoekserver is kapot, en dit kan ik niet zo even 123 repareren. Overigens vraag ik mij af of het überhaupt de moeite, laat staan het geld waard is om te doen, ik ontvang verder geen respons meer in dit topic, zelfs niet als ik vraag of ik iets zonder problemen weg zou kunnen halen. Ook is de search in 2 dagen tijd maar 1x gebruikt en wordt her en der door mensen die weten dat deze search bestaat gewoon Google aanbevolen. Opzich geen probleem, maar het is een beetje een signaal naar mij dat mijn search eigenlijk maar overbodig is en dat de lite search en Google het stukken beter doen. Ik vind het dan een beetje jammer om er dag en nacht een extra pc voor te moeten laten draaien of geld aan te spenderen.
Dat dus.quote:Op vrijdag 2 mei 2008 00:43 schreef Piles het volgende:
Beetje jammer dat FOK! hier niet meer mee doet
Klopt, maar van de stats wordt ik ook niet echt blij. Mensen zitten altijd te zeuren dat er geen search is (ja, hier zijn al tig topics over geopend), echter zie je die mensen nooit terug als er een search beschikbaar komt. Dit topic is een beetje incrowd geworden, met een paar betatesters (wat ik uiteraard erg waardeer) die zo nu en dan een bug submitten. Echter wordt het ook met de vaste groep mensen steeds minder (de search is uiteraard ook bijna klaar), en zie je geen nieuwe mensen in het topic posten. In het begin zag ik ook echt een piek in het aantal zoekopdrachten, maar dat neemt steeds verder af als er niet in het topic gereageerd wordt (en ik ga het zelf niet elke dag kicken), het houdt zichzelf niet zo in stand op deze manier en na een tijd gebruikt helemaal niemand het meer. Dit zag ik nu ook gebeuren en ik had er eigenlijk wel een beetje genoeg van, zeker als je ziet dat mensen (als ze de kans krijgen mijn search wat bekender te maken) toch gewoon Google of de lite search aanbevelen.quote:Op vrijdag 2 mei 2008 01:03 schreef Juup© het volgende:
[..]
Ik kan begrijpen dat jij er geen moeite meer in wilt steken op deze manier, en dat is toch jammer gezien de tijd en moeite die jij er al in hebt gestoken.
Forum Opties | |
---|---|
Forumhop: | |
Hop naar: |