Предупреждение read.csv «EOF в строке в кавычках» предотвращает полное чтение файла

У меня есть файл CSV (24,1 МБ), который я не могу полностью прочитать в сеансе R. Когда я открываю файл в программе для работы с электронными таблицами, я вижу 112 544 строки. Когда я читаю его в R с read.csv, я получаю только 56 952 строки и это предупреждение:

cit <- read.csv("citations.CSV", row.names = NULL, 
                comment.char = "", header = TRUE, 
                stringsAsFactors = FALSE,  
                colClasses= "character", encoding= "utf-8")

Warning message:
In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
  EOF within quoted string

Я могу прочитать весь файл в R с помощью readLines:

rl <- readLines(file("citations.CSV", encoding = "utf-8"))
length(rl)
[1] 112545

Но я не могу вернуть это в R в виде таблицы (через read.csv):

write.table(rl, "rl.txt", quote = FALSE, row.names = FALSE)
rl_in <- read.csv("rl.txt", skip = 1, row.names = NULL)

Warning message:
In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
  EOF within quoted string

Как я могу решить или обойти это сообщение EOF (которое кажется скорее ошибкой, чем предупреждением), чтобы поместить весь файл в мой R сеанс?

У меня похожие проблемы с другими методами чтения файлов CSV:

require(sqldf)
cit_sql <- read.csv.sql("citations.CSV", sql = "select * from file")
require(data.table)
cit_dt <- fread("citations.CSV")
require(ff)
cit_ff <- read.csv.ffdf(file="citations.CSV")

Вот мой sessionInfo ()

R version 3.0.1 (2013-05-16)
Platform: x86_64-w64-mingw32/x64 (64-bit)

locale:
[1] LC_COLLATE=English_United States.1252  LC_CTYPE=English_United States.1252   
[3] LC_MONETARY=English_United States.1252 LC_NUMERIC=C                          
[5] LC_TIME=English_United States.1252    

attached base packages:
[1] tools     tcltk     stats     graphics  grDevices utils     datasets  methods   base     

other attached packages:
 [1] ff_2.2-11             bit_1.1-10            data.table_1.8.8      sqldf_0.4-6.4        
 [5] RSQLite.extfuns_0.0.1 RSQLite_0.11.4        chron_2.3-43          gsubfn_0.6-5         
 [9] proto_0.3-10          DBI_0.2-7   

person Ben    schedule 01.07.2013    source источник


Ответы (8)


Вам нужно отключить цитирование.

cit <- read.csv("citations.CSV", quote = "", 
                 row.names = NULL, 
                 stringsAsFactors = FALSE)

str(cit)
## 'data.frame':    112543 obs. of  13 variables:
##  $ row.names    : chr  "10.2307/675394" "10.2307/30007362" "10.2307/4254931" "10.2307/20537934" ...
##  $ id           : chr  "10.2307/675394\t" "10.2307/30007362\t" "10.2307/4254931\t" "10.2307/20537934\t" ...
##  $ doi          : chr  "Archaeological Inference and Inductive Confirmation\t" "Sound and Sense in Cath Almaine\t" "Oak Galls Preserved by the Eruption of Mount Vesuvius in A.D. 79_ and Their Probable Use\t" "The Arts Four Thousand Years Ago\t" ...
##  $ title        : chr  "Bruce D. Smith\t" "Tomás Ó Cathasaigh\t" "Hiram G. Larew\t" "\t" ...
##  $ author       : chr  "American Anthropologist\t" "Ériu\t" "Economic Botany\t" "The Illustrated Magazine of Art\t" ...
##  $ journaltitle : chr  "79\t" "54\t" "41\t" "1\t" ...
##  $ volume       : chr  "3\t" "\t" "1\t" "3\t" ...
##  $ issue        : chr  "1977-09-01T00:00:00Z\t" "2004-01-01T00:00:00Z\t" "1987-01-01T00:00:00Z\t" "1853-01-01T00:00:00Z\t" ...
##  $ pubdate      : chr  "pp. 598-617\t" "pp. 41-47\t" "pp. 33-40\t" "pp. 171-172\t" ...
##  $ pagerange    : chr  "American Anthropological Association\tWiley\t" "Royal Irish Academy\t" "New York Botanical Garden Press\tSpringer\t" "\t" ...
##  $ publisher    : chr  "fla\t" "fla\t" "fla\t" "fla\t" ...
##  $ type         : logi  NA NA NA NA NA NA ...
##  $ reviewed.work: logi  NA NA NA NA NA NA ...

Думаю, из-за такого рода линий (отметьте «Шип» и «Минус»)

 readLines("citations.CSV")[82]
[1] "10.2307/3642839,10.2307/3642839\t,\"Thorn\" and \"Minus\" in Hieroglyphic Luvian Orthography\t,H. Craig Melchert\t,Anatolian Studies\t,38\t,\t,1988-01-01T00:00:00Z\t,pp. 29-42\t,British Institute at Ankara\t,fla\t,\t,"
person dickoa    schedule 01.07.2013
comment
Спасибо, это легко исправить. Что вы думаете о том, чтобы fread заработал в этой ситуации? Я предпочитаю это, потому что это намного быстрее, чем read.csv. Но fread, похоже, не принимает аргументов quote .. - person Ben; 02.07.2013
comment
@Ben Я тоже безуспешно пытался заставить его работать, и, как вы отметили, fread не очень хорошо работает со встроенной цитатой в целом, но я уверен, что скоро будет обходной путь. stackoverflow.com/questions/16094025/ - person dickoa; 02.07.2013
comment
У меня было 7000 строк, когда я использовал write.csv() и получал 403 обратно с read.csv(). Добавление цитаты = дало мне до 410 строк. read.table() не лучше. Интересно, что еще можно попробовать ... - person Hack-R; 21.08.2014
comment
Та же проблема, что и Hack-R, добавление quote = увеличило количество строк на 30 000, но мне все еще не хватает более 200 000. - person SJDS; 05.05.2015
comment
Не могли бы вы написать строчку о том, почему вам нужно это добавить. (Я программист на Python, пытающийся изучить R). В противном случае ответ идеальный (+1) - person Bhargav Rao; 02.07.2015
comment
Я столкнулся с этой проблемой, когда сохранил файл из SQLite, а затем прочитал его напрямую. Это правильное решение. Вы самые лучшие! - person koralgooll; 08.10.2016

Я новичок в R и подумал, что опубликую это на случай, если это поможет кому-то еще. Я пытался прочитать данные из текстового файла (разделенного запятыми), который содержал несколько испанских символов, и мне потребовалась целая вечность, чтобы понять это. Я знал, что мне нужно использовать кодировку UTF-8, установить аргумент заголовка в значение ИСТИНА и что мне нужно установить аргумент sep в значение, но затем у меня все еще были зависания. Прочитав этот пост, я попытался установить для аргумента заполнения значение ИСТИНА , но затем получил тот же EOF в цитируемой строке, который я смог исправить тем же способом, что и выше. Моя успешная таблица read.table выглядит так:

target <- read.table("target2.txt", fill=TRUE, header=TRUE, quote="", sep=",", encoding="UTF-8")

В результате появились символы испанского языка и такие же затемнения, которые были у меня изначально, так что я называю это успехом! Спасибо всем!

person mjd876    schedule 13.10.2015

В разделе справки R, как указано выше, просто полностью отключите цитирование, просто добавив:

    quote = "" 

to the read.csv () работал у меня.

Ошибка «EOF в строке в кавычках» произошла с:

    > iproscan.53A.neg     = read.csv("interproscan.53A.neg.n.csv",
    +                        colClasses=c(pb.id      = "character",
    +                                     genLoc     = "character",
    +                                     icode      = "character",
    +                                     length     = "character",
    +                                     proteinDB  = "character",
    +                                     protein.id = "character",
    +                                     prot.desc  = "character",
    +                                     start      = "character",
    +                                     end        = "character",
    +                                     evalue     = "character",
    +                                     tchar      = "character",
    +                                     date       = "character",
    +                                     ipro.id    = "character",
    +                                     prot.name  = "character",
    +                                     go.cat     = "character",
    +                                     reactome.id= "character"),
    +                                     as.is=T,header=F)
    Warning message:
    In scan(file, what, nmax, sep, dec, quote, skip, nlines, na.strings,  :
      EOF within quoted string
    > dim(iproscan.53A.neg)
    [1] 69383    16

И в прочитанном файле отсутствовало 6619 строк. Но отключив цитирование

    > iproscan.53A.neg     = read.csv("interproscan.53A.neg.n.csv",
    +                        colClasses=c(pb.id      = "character",
    +                                     genLoc     = "character",
    +                                     icode      = "character",
    +                                     length     = "character",
    +                                     proteinDB  = "character",
    +                                     protein.id = "character",
    +                                     prot.desc  = "character",
    +                                     start      = "character",
    +                                     end        = "character",
    +                                     evalue     = "character",
    +                                     tchar      = "character",
    +                                     date       = "character",
    +                                     ipro.id    = "character",
    +                                     prot.name  = "character",
    +                                     go.cat     = "character",
    +                                     reactome.id= "character"),
    +                                     as.is=T,header=F,**quote=""**)    
    > 
    > dim(iproscan.53A.neg)
    [1] 76002    16

Работал без ошибок и все строки были успешно прочитаны.

person Anne Deslattes Mays    schedule 26.09.2015
comment
Вы повторяете предыдущий ответ, а затем снижаете его полезность, добавляя ненужные двойные звездочки по бокам внутри блока кода. - person IRTFM; 10.08.2017

Я также столкнулся с этой проблемой и смог обойти аналогичную ошибку EOF, используя:

read.table("....csv", sep=",", ...)

Обратите внимание, что параметр-разделитель определен в более общем read.table().

person Tony T    schedule 01.08.2013
comment
Привет, у меня это не работает ... У меня ошибка Ошибка в read.table (.csv,: столбцов больше, чем имен столбцов - кажется, что пропуск (skip = 6) работает некорректно ... - person maycca; 25.10.2015

На самом деле, использование read.csv() для чтения файла с текстовым содержимым - не лучшая идея, отключите кавычки, поскольку установленный quote="" - это только временное решение, оно работало только с отдельными кавычками. Предупреждение может быть вызвано и по другим причинам, например из-за некоторых специальных символов.

Постоянное решение (с использованием read.csv()), выяснение, что это за специальные символы, и использование регулярного выражения для их устранения - это идея.

Вы когда-нибудь думали об установке пакета {data.table} и использовании fread() для чтения файла. это намного быстрее и не побеспокоит вас этим предупреждением EOF. Обратите внимание, что загруженный файл будет сохранен как объект data.table, но не как объект data.frame. Класс data.table имеет много хороших функций, но в любом случае вы можете преобразовать его с помощью as.data.frame(), если это необходимо.

person floatsd    schedule 16.12.2016

У меня была аналогичная проблема: предупреждение EOF, и только часть данных загружалась с помощью read.csv (). Я пробовал использовать кавычки = "", но он удалил только предупреждение EOF.

Но, посмотрев на первую строку, которая не загружалась, я обнаружил, что в одной из ячеек был специальный символ, стрелка → (шестнадцатеричное значение 0x1A). После удаления стрелки я получил данные для нормальной загрузки.

person ElinaJ    schedule 12.07.2015
comment
та же проблема, есть ли другой способ решить эту проблему без ручного вмешательства? - person Mohit; 08.06.2017

У меня тоже была похожая проблема. Но в моем случае причина проблемы заключалась в наличии апострофов (то есть одинарных кавычек) в некоторых текстовых значениях. Это особенно часто возникает при работе с данными, включая тексты на французском языке, например «L'autre jour».

Таким образом, решение заключалось в том, чтобы просто изменить настройку аргумента кавычки по умолчанию, чтобы исключить символ «'», и, таким образом, использовать quote = "\" " (т.е. двойные кавычки только < / strong>) все работало нормально.

Надеюсь, это поможет некоторым из вас. Ваше здоровье.

person marQIsoftGuy    schedule 17.08.2018

Пакет readr устранит эту проблему.

install.packages('readr')
library(readr)
readr::read_csv('yourfile.csv')
person vladiim    schedule 15.05.2020