Pandas objet-lista datetime serie a data e hora índice

0

Pergunta

Eu estou usando os campos de parâmetro no python-elasticsearch api para recuperar alguns dados do elasticsearch tentando analisar o @carimbo de data / hora no formato iso, para uso em um pandas dataframe.

fields = \
    [{
      "field": "@timestamp",
      "format": "strict_date_optional_time"
    }]

Por padrão elasticsearch retornar os resultados na matriz-formato de lista, como visto no doc:

https://www.elastic.co/guide/en/elasticsearch/reference/current/search-fields.html

The fields response always returns an array of values for each field, even when there is a single value in the _source. 

Devido a esta resultante dataframe contém um objecto de lista de serie que não pode ser analisado como um datetime serie por métodos convencionais.

Name: fields.@timestamp, Length: 18707, dtype: object
0       [2021-11-04T01:30:00.263Z]
1       [2021-11-04T01:30:00.385Z]
2       [2021-11-04T01:30:00.406Z]
3       [2021-11-04T01:30:00.996Z]
4       [2021-11-04T01:30:01.001Z]
                   ...            
8368    [2021-11-04T02:00:00.846Z]
8369    [2021-11-04T02:00:00.894Z]
8370    [2021-11-04T02:00:00.895Z]
8371    [2021-11-04T02:00:00.984Z]
8372    [2021-11-04T02:00:00.988Z]

Ao tentar analisar a serie a data e hora da serie:

pd.to_datetime(["fields.@timestamp"])

Que resultará em:

TypeError: <class 'list'> is not convertible to datetime

O meu caso de uso exige muito de formatos de data e hora e os campos de parâmetro se adapta muito bem a consultar vários formatos, mas o objeto apresentado seqüência de data / hora difícil as coisas.

dataframe datetime elasticsearch pandas
2021-11-18 16:37:23
1

Melhor resposta

1

O problema aqui é que os itens de fields.@timestamp na verdade, são listas.

Assim que você poderia fazer :

fields['timestamp'] = fields['timestamp'].str[0]

para extrair a data a partir da lista, e, em seguida, usar o pd.to_datetime :

fields['timestamp'] = pd.to_datetime(fields['timestamp'])
2021-11-18 17:01:03

Em outros idiomas

Esta página está em outros idiomas

Русский
..................................................................................................................
Italiano
..................................................................................................................
Polski
..................................................................................................................
Română
..................................................................................................................
한국어
..................................................................................................................
हिन्दी
..................................................................................................................
Français
..................................................................................................................
Türk
..................................................................................................................
Česk
..................................................................................................................
ไทย
..................................................................................................................
中文
..................................................................................................................
Español
..................................................................................................................
Slovenský
..................................................................................................................