abonnement Unibet Coolblue Bitvavo
  woensdag 22 januari 2003 @ 10:46:02 #126
16142 SignOTheTimes
Symathiek & schattig
pi_8043046
quote:
Op woensdag 22 januari 2003 10:44 schreef ChOas het volgende:

[..]

Das dus VEEL data


Dat is dus inderdaad het grootste probleem.

Daarom haalde Arcee Fok! ook maar 1 maal per maand leeg! Anders was het ondoenlijk geworden!

Op 14 mei 2003 zei Amber: "Kortom, SOTT is de charmantste en liefste vader van de wereld."
  woensdag 22 januari 2003 @ 10:47:07 #127
693 ChOas
** Warning: Choking hazard **
pi_8043063
quote:
Op woensdag 22 januari 2003 10:44 schreef Tijn het volgende:

[..]

Nee, de smileys, posticons, usernames, forumnames en namen van de topics zijn ook wel belangrijk eigenlijk

Op hoeveel kom je dan uit?


Dit topic tot nu toe: ongeveer 100K... Kan nog wel wat HTML
gestripped worden, maar het is maar een idee...
"I contend that we are both atheists. I just believe in one fewer god than you do.
When you understand why you dismiss all the other possible gods, you will understand why I dismiss yours."

[Stephen Roberts]
  woensdag 22 januari 2003 @ 10:47:20 #128
12221 Tijn
Powered by MS Paint
pi_8043066
Signatures en ondertitels hoeven niet per se, dat scheelt weer
  woensdag 22 januari 2003 @ 10:47:35 #129
17061 mvt
blame Canada
pi_8043069
quote:
Op woensdag 22 januari 2003 10:45 schreef Tijn het volgende:

[..]

Nee, het wordt zeker geen 1 op 1 kopie van de huidige database. Want daarin staan ook rechten vermeld, registratie e-mailadressen, notes en andere meuk die niks hiermee te maken heeft


Oke, het wordt een 1 op 1 copy van wat er aan de users op het scherm wordt getoond. (in de topics, profielen vallen erbuiten)
We were to understand there would be pie and punch?
  woensdag 22 januari 2003 @ 10:53:27 #130
12221 Tijn
Powered by MS Paint
pi_8043162
quote:
Op woensdag 22 januari 2003 10:47 schreef ChOas het volgende:

[..]

Dit topic tot nu toe: ongeveer 100K... Kan nog wel wat HTML
gestripped worden, maar het is maar een idee...


Ok, ik heb net even de index bij elkaar opgeteld en kom uit op 141018 topics in de huidige, actieve fora.

Dus dat wordt grofweg 13,45 GB

Hmmm... is het belangrijk dat de database die deze 13,5 GB bevat aan een snelle verbinding ligt?

  woensdag 22 januari 2003 @ 10:55:39 #131
17061 mvt
blame Canada
pi_8043197
quote:
Op woensdag 22 januari 2003 10:53 schreef Tijn het volgende:

[..]

Ok, ik heb net even de index bij elkaar opgeteld en kom uit op 141018 topics in de huidige, actieve fora.

Dus dat wordt grofweg 13,45 GB

Hmmm... is het belangrijk dat de database die deze 13,5 GB bevat aan een snelle verbinding ligt?


Volgens mij moet je ook de niet actieve dora meetellen (behalve Admin, maar ik weet niet of die zich ook aan de telling houdt) voor een goed beeld. Kom je toch op 100000 topics meer uit. Dus gok dan maar op >20 GB
We were to understand there would be pie and punch?
  woensdag 22 januari 2003 @ 10:57:47 #132
17061 mvt
blame Canada
pi_8043235
Tenzij je een heel snelle verbinding hebt is het denk ik slimmer om eens te vragen of er een laptop+externe HDD richting telecity gaat. Dit kost me toch een hoop dataverkeer (en ik denk dat je provider je er meteen afknikkerd). Incrementals zou je daarna nog wel op afstand kunnen doen.
We were to understand there would be pie and punch?
pi_8043274
quote:
Op woensdag 22 januari 2003 10:47 schreef Tijn het volgende:
Signatures en ondertitels hoeven niet per se, dat scheelt weer
Sigs en ondertitels horen er eigenlijk niet bij, die horen bij de user profielen. En ik denk niet dat die tabel echt nuttig is (hoewel een tabel username-userID wel handig kan zijn, bij de posts hoef je dan nog maar 1 van die 2 op te slaan, scheelt weer iets aan ruimte).
pi_8043304
20 GB? Whoa....
"Dear life, When I said "can my day get any worse?" it was a rhetorical question, not a challenge."
  woensdag 22 januari 2003 @ 11:03:21 #135
16142 SignOTheTimes
Symathiek & schattig
pi_8043332
Het zou overigens wel rete handig zijn als je van te voren een lijst had met topics die gesloten zijn of topics die sinds de vorige parse niet gewijzigd zijn. Deze topics hoef je in de toekomst niet nog een keer op te halen.

Alhoewel je in de database wel bij kan houden of een topic gesloten is. Bij een volgende loop van 1 tot maxtopics kan je in de database checken of je een bepaald topicnummer op moet halen!

[Dit bericht is gewijzigd door SignOTheTimes op 22-01-2003 11:04]

Op 14 mei 2003 zei Amber: "Kortom, SOTT is de charmantste en liefste vader van de wereld."
pi_8043337
quote:
Op woensdag 22 januari 2003 11:01 schreef Isabeau het volgende:
20 GB? Whoa....
Is best veel ja. Als ik dat wil backuppen mag ik eerst wel een grotere HD kopen.

Of, om in de stijl van de mannetjes te blijven, Dirk heeft een heel groot magazijn nodig

pi_8043368
quote:
Op woensdag 22 januari 2003 11:03 schreef SignOTheTimes het volgende:
Het zou overigens wel rete handig zijn als je van te voren een lijst had met topics die gesloten zijn of topics die sinds de vorige parse niet gewijzigd zijn. Deze topics hoef je in de toekomst niet nog een keer op te halen.
Modjes kunnen doorposten na een slotje hoor.... Maar in de index staat tegenwoordig de tijd van de laatste post, dat kan wel handig zijn
  woensdag 22 januari 2003 @ 11:11:58 #138
23107 dolle_hond
topicverkoper
pi_8043457
ik heb niet het hele topic gelezen, maar heb je al rekening gehouden ermee dat de topics soms van een naar ander forum worden geschopt?
  woensdag 22 januari 2003 @ 11:12:47 #139
17061 mvt
blame Canada
pi_8043471
quote:
Op woensdag 22 januari 2003 11:11 schreef dolle_hond het volgende:
ik heb niet het hele topic gelezen, maar heb je al rekening gehouden ermee dat de topics soms van een naar ander forum worden geschopt?
topic# blijft hetzelfde
We were to understand there would be pie and punch?
  woensdag 22 januari 2003 @ 11:17:04 #140
23107 dolle_hond
topicverkoper
pi_8043541
quote:
Op woensdag 22 januari 2003 11:12 schreef mvt het volgende:

[..]

topic# blijft hetzelfde


idd, maar daarom is hergebruik een maand later niet te doen, zelfs als er niet in gepost is kan het topic van GC naar PTA zijn gezet.
pi_8043547
quote:
Op woensdag 22 januari 2003 11:12 schreef mvt het volgende:

[..]

topic# blijft hetzelfde


Ja, maar je moet er wel aan denken dat het topic dan ook in je backup database verplaatst wordt. Anders kloppen de stats niet.
  woensdag 22 januari 2003 @ 11:18:20 #142
23107 dolle_hond
topicverkoper
pi_8043560
sorry dat ik me er mee bemoei, maar ik heb enige tijd geleden al over de mogelijkheden en problemen nagedacht.
  woensdag 22 januari 2003 @ 11:27:30 #143
693 ChOas
** Warning: Choking hazard **
pi_8043722
Ja, dat incremental backuppen brengt nog een hoop lastige
dingen met zich mee, maar niet onoverkomelijk.

Topic dicht -> Open ... Okay, als een topic meer dan 2 dagen
dicht is blijftie dicht...
Wordt dan niet meer gebackupped;

Topic verplaatsen -> Uuuuuhm moet ook wel gaan ook 2 dagen ?
Daarna wordt het niet meer aangepast, topicnummer blijft toch gelijk.

Topic-kick: Bij topics die gebackupt dienen te worden alleen
naar de laatste post kijken: <Huidige datum, op naar het volgende topic...

Of voor dat verplaatsen gewoon 1x in de zoveel tijd
een run over de database maken om te kijken of alles
nog goed staat... is maar 1 post voor nodig, weinig
dataoverdracht dus...

[Dit bericht is gewijzigd door ChOas op 22-01-2003 11:29]

"I contend that we are both atheists. I just believe in one fewer god than you do.
When you understand why you dismiss all the other possible gods, you will understand why I dismiss yours."

[Stephen Roberts]
pi_8043727
Maar waar laat je for god sake 14 gig aan data op het internet? .
pi_8043925
quote:
Op woensdag 22 januari 2003 11:27 schreef blieblie het volgende:
Maar waar laat je for god sake 14 gig aan data op het internet? .
Op een schijfje op je eigen webserver. Dat is zo'n beetje het minste probleem.

Ik zal vanavond eens kijken of er een beetje een leuke Fok!-crawler te bouwen valt in PL/SQL. Dan kan ik de backup direct in Oracle zetten wat voldoende mogelijkheden voor lijstjes zou moeten opleveren.

"If you are depressed you shouldn't be in C major!" - Rick Beato
pi_8043965
quote:
Op woensdag 22 januari 2003 11:27 schreef blieblie het volgende:
Maar waar laat je for god sake 14 gig aan data op het internet? .
Op een harde schijf?

En 'k denk dat de daadwerkelijke database kleiner is, omdat sommige dingen niet bepaald efficient verstuurd worden. De datum/tijd zal niet als tekst in de database staan, lijkt me

  woensdag 22 januari 2003 @ 11:46:18 #147
17061 mvt
blame Canada
pi_8044098
quote:
Op woensdag 22 januari 2003 11:39 schreef Light het volgende:

[..]

Op een harde schijf?

En 'k denk dat de daadwerkelijke database kleiner is, omdat sommige dingen niet bepaald efficient verstuurd worden. De datum/tijd zal niet als tekst in de database staan, lijkt me


net als de bergen redundantie die hier op de pagina gekwakt worden.
We were to understand there would be pie and punch?
pi_8044120
quote:
Op woensdag 22 januari 2003 10:53 schreef Tijn het volgende:
Hmmm... is het belangrijk dat de database die deze 13,5 GB bevat aan een snelle verbinding ligt?
Volgens mij niet echt. Vooropgesteld dat je de lijstjes op die machine maakt hoef je alleen maar de lijstjes te verzenden en dat zou een stuk minder data moeten zijn.

Snelle download vanaf de databasemachine om Fok! te indexeren is uiteraard wel handig, maar niet noodzakelijk.

"If you are depressed you shouldn't be in C major!" - Rick Beato
pi_8044177
Ik heb net 1500 topics naar binnen gesleept, en dat is bij elkaar al 35 MB

* K3 wordt een beetje ontmoedigd (scriptje haalt de eerste 20.000 topics binnen).

123
  woensdag 22 januari 2003 @ 11:53:00 #150
12221 Tijn
Powered by MS Paint
pi_8044207
Nou ja, ik kan thuis wel wat ruimte beschikbaar stellen. Kheb op dit moment nog zo'n 30 GB vrij en ik draai al MySQL. Kheb een ADSL-verbinding zonder caps (dus 8 MBit/s downstream en 512 kbps upstream). Zou dat werken?

Sowieso moet nog wel iemand aan Danny vragen in hoeverre hij dit allemaal toestaat, voordat we van alles gaan regelen en afspreken he Kzal kijken of ik met 'em in contact kan komen.

[Dit bericht is gewijzigd door Tijn op 22-01-2003 11:53]

abonnement Unibet Coolblue Bitvavo
Forum Opties
Forumhop:
Hop naar:
(afkorting, bv 'KLB')