folder Tahribat.com Forumları
linefolder Yazılımlar / Diğer Programlar
linefolder 100 Gb TSV Dosyasını İşlemek?



100 Gb TSV Dosyasını İşlemek?

  1. KısayolKısayol reportŞikayet pmÖzel Mesaj
    dhmm
    dhmm's avatar
    Kayıt Tarihi: 15/Eylül/2011
    Erkek

    Hocam selamlar.

    Oncelikle Large Text Viewerla bir dener misiniz ? http://large-text-file-viewer.software.informer.com/5.2/

    Aksi halde Veritabanina yazdirip oradan calisabilirsiniz...


    Ozgurluk aslinda her istedigini yapabilmek degildir, istemedigini yapmamaktir. // Verdigin degeri gormeyince, gordugun degeri ver !!! // Hayatin herkes icin bir bavulu vardir !!! // Dusmek gerekir bazen hayatta; kalkmayi ogrenebilmek icin
  2. KısayolKısayol reportŞikayet pmÖzel Mesaj
    Böcüklerin Efendisi
    krypt
    krypt's avatar
    Kayıt Tarihi: 05/Mart/2004
    Erkek

    Hocam veritabanına çevirme işi hiç aklıma gelmemişti. Biriler idaha yazdı konuda. Oldukça mantıklı. Daha önce hiç bu kadar büyük dump bile import etmedim. Kaldı ki bu tsv dosyası. Yani ilk satırda başlık, alt satırlarda veriler var. Sütunlar tab ile ayrılı. 100 gb dosyayı import edebilir miyim? Tsv dosyasını import edebilir miyim? Elbet akşam google'dan bakacağım ama tecrübesi olanlar yazarsa makbul geçer.

     

    krypt tarafından 04/Nis/16 09:49 tarihinde düzenlenmiştir

    while (1<2)
  3. KısayolKısayol reportŞikayet pmÖzel Mesaj
    Fikibok
    KaptaN
    KaptaN's avatar
    Üstün Hizmet Madalyası
    Kayıt Tarihi: 30/Ağustos/2005
    Erkek
    KrypT bunu yazdı

    Hocam veritabanına çevirme işi hiç aklıma gelmemişti. Biriler idaha yazdı konuda. Oldukça mantıklı. Daha önce hiç bu kadar büyük dump bile import etmedim. Kaldı ki bu tsv dosyası. Yani ilk satırda başlık, alt satırlarda veriler var. Sütunlar tab ile ayrılı. 100 gb dosyayı import edebilir miyim? Tsv dosyasını import edebilir miyim? Elbet akşam google'dan bakacağım ama tecrübesi olanlar yazarsa makbul geçer.

     

    Edersin hocam yapamazsan  haber ver göstereyim navicat kurman yeterli

  4. KısayolKısayol reportŞikayet pmÖzel Mesaj
    Böcüklerin Efendisi
    krypt
    krypt's avatar
    Kayıt Tarihi: 05/Mart/2004
    Erkek

    Tamamdır hocam. En kötü bir python scripti yazarım. 


    while (1<2)
  5. KısayolKısayol reportŞikayet pmÖzel Mesaj
    Ratbat
    Ratbat's avatar
    Kayıt Tarihi: 20/Ekim/2012
    Erkek

    Rahatça Mongodb ye import edebilirsin. Sonrada mongodb compass ile istediğin veriye rahatça ulaşırsın. Daha önce 100gb lık bir dosyada denedim navicat kasıp kitlenebiliyor, zaman kaybetme boşuna.

    Aşağıda tam istediğin değil ama örnek teşkil edebilecek bir konu var.

    http://stackoverflow.com/questions/31514688/how-to-use-mongoimport-for-specific-fileds-from-tsv-file 

     

    Ratbat tarafından 04/Nis/16 12:04 tarihinde düzenlenmiştir

    Kurallar satranç tahtasındaki kadar kesin olmalı.
  6. KısayolKısayol reportŞikayet pmÖzel Mesaj
    dhmm
    dhmm's avatar
    Kayıt Tarihi: 15/Eylül/2011
    Erkek

    Hocam MongoDB nin mongoimport aracini kullanabilirsiniz. CSV, TSV dosyalarini destekliyor.

    https://docs.mongodb.org/manual/reference/program/mongoimport/

    https://docs.mongodb.org/manual/tutorial/backup-and-restore-tools/#human-intelligible-exports

     


    Ozgurluk aslinda her istedigini yapabilmek degildir, istemedigini yapmamaktir. // Verdigin degeri gormeyince, gordugun degeri ver !!! // Hayatin herkes icin bir bavulu vardir !!! // Dusmek gerekir bazen hayatta; kalkmayi ogrenebilmek icin
  7. KısayolKısayol reportŞikayet pmÖzel Mesaj
    Böcüklerin Efendisi
    krypt
    krypt's avatar
    Kayıt Tarihi: 05/Mart/2004
    Erkek

    MongoDB de gayet güzel bir fikir hocalar aynen. Aklıma gelmemişti sağolun.


    while (1<2)
  8. KısayolKısayol reportŞikayet pmÖzel Mesaj
    Böcüklerin Efendisi
    krypt
    krypt's avatar
    Kayıt Tarihi: 05/Mart/2004
    Erkek

    Hocalar mongoimport bir saattir böyle. Neler olduğu hakkında bir fikri olan var mı?

    qbQKh.jpg (1601&times;477)

     

    krypt tarafından 04/Nis/16 20:48 tarihinde düzenlenmiştir

    while (1<2)
  9. KısayolKısayol reportŞikayet pmÖzel Mesaj
    dhmm
    dhmm's avatar
    Kayıt Tarihi: 15/Eylül/2011
    Erkek
    KrypT bunu yazdı

    Hocalar mongoimport bir saattir böyle. Neler olduğu hakkında bir fikri olan var mı?

    qbQKh.jpg (1601&times;477)

     

    Hocam selam.

    Oncelile yazip yazmadigini kontrol edin veri tabanin acip limit kullanarak bir select edin bakalim.

    Eger problem yasarsaniz... C# ile de biseyler yapabiliriz.


    Ozgurluk aslinda her istedigini yapabilmek degildir, istemedigini yapmamaktir. // Verdigin degeri gormeyince, gordugun degeri ver !!! // Hayatin herkes icin bir bavulu vardir !!! // Dusmek gerekir bazen hayatta; kalkmayi ogrenebilmek icin
Toplam Hit: 2371 Toplam Mesaj: 20
büyük dosya tsv bayağı büyük dosya kocaman dosya