Read excel data in python

Improve Article

Save Article

Like Article

  • Read
  • Discuss
  • Improve Article

    Save Article

    Like Article

    One can retrieve information from a spreadsheet. Reading, writing, or modifying the data can be done in Python can be done in using different methods. Also, the user might have to go through various sheets and retrieve data based on some criteria or modify some rows and columns and do a lot of work. Here, we will see the different methods to read our excel file.

    Required Module

    pip install xlrd

    Input File: 

    Method 1: Reading an excel file using Python using Pandas

    In this method, We will first import the Pandas module then we will use Pandas to read our excel file. You can read more operations using the excel file using Pandas in this article. Click here

    Python3

    import pandas as pd

    dataframe1 = pd.read_excel('book2.xlsx')

    print(dataframe1)

    Output:

    Method 2: Reading an excel file using Python using openpyxl

    The load_workbook() function opens the Books.xlsx file for reading. This file is passed as an argument to this function. The object of the dataframe.active has been created in the script to read the values of the max_row and the max_column properties. These values are used in the loops to read the content of the Books2.xlsx file. You can read other operations using openpyxl in this article.

    Python3

    import openpyxl

    dataframe = openpyxl.load_workbook("Book2.xlsx")

    dataframe1 = dataframe.active

    for row in range(0, dataframe1.max_row):

        for col in dataframe1.iter_cols(1, dataframe1.max_column):

            print(col[row].value)

    Output: 

    Method 3: Reading an excel file using Python using Xlwings

    Xlwings can be used to insert data in an Excel file similarly as it reads from an Excel file. Data can be provided as a list or a single input to a certain cell or a selection of cells. You can read other operations using Xlwings in this article.

    Python3

    import xlwings as xw

    ws = xw.Book("Book2.xlsx").sheets['Sheet1']

    v1 = ws.range("A1:A7").value

    print("Result:", v1, v2)

    Output:

    Result: ['Name  Age    Stream  Percentage', 
    '0      Ankit   18      Math          95', 
    '1      Rahul   19   Science          90', 
    '2    Shaurya   20  Commerce          85', 
    '3  Aishwarya   18      Math          80', 
    '4   Priyanka   19   Science          75', 
    None]

    RECOMMENDED ARTICLE – How to Automate an Excel Sheet in Python?

    Like Article

    Save Article

    Microsoft Excel is one of the most powerful spreadsheet software applications in the world, and it has become critical in all business processes. Companies across the world, both big and small, are using Microsoft Excel to store, organize, analyze, and visualize data.

    As a data professional, when you combine Python with Excel, you create a unique data analysis bundle that unlocks the value of the enterprise data.

    In this tutorial, we’re going to learn how to read and work with Excel files in Python.

    After you finish this tutorial, you’ll understand the following:

    • Loading Excel spreadsheets into pandas DataFrames
    • Working with an Excel workbook with multiple spreadsheets
    • Combining multiple spreadsheets
    • Reading Excel files using the xlrd package

    In this tutorial, we assume you know the fundamentals of pandas DataFrames. If you aren’t familiar with the pandas library, you might like to try our Pandas and NumPy Fundamentals – Dataquest.

    Let’s dive in.

    Reading Spreadsheets with Pandas

    Technically, multiple packages allow us to work with Excel files in Python. However, in this tutorial, we’ll use pandas and xlrd libraries to interact with Excel workbooks. Essentially, you can think of a pandas DataFrame as a spreadsheet with rows and columns stored in Series objects. Traversability of Series as iterable objects allows us to grab specific data easily. Once we load an Excel workbook into a pandas DataFrame, we can perform any kind of data analysis on the data.

    Before we proceed to the next step, let’s first download the following spreadsheet:

    Sales Data Excel Workbook — xlsx ver.

    The Excel workbook consists of two sheets that contain stationery sales data for 2020 and 2021.


    NOTE

    Although Excel spreadsheets can contain formula and also support formatting, pandas only imports Excel spreadsheets as flat files, and it doesn’t support spreadsheet formatting.


    To import the Excel spreadsheet into a pandas DataFrame, first, we need to import the pandas package and then use the read_excel() method:

    import pandas as pd
    df = pd.read_excel('sales_data.xlsx')
    
    display(df)
    OrderDate Region Rep Item Units Unit Cost Total Shipped
    0 2020-01-06 East Jones Pencil 95 1.99 189.05 True
    1 2020-02-09 Central Jardine Pencil 36 4.99 179.64 True
    2 2020-03-15 West Sorvino Pencil 56 2.99 167.44 True
    3 2020-04-01 East Jones Binder 60 4.99 299.40 False
    4 2020-05-05 Central Jardine Pencil 90 4.99 449.10 True
    5 2020-06-08 East Jones Binder 60 8.99 539.40 True
    6 2020-07-12 East Howard Binder 29 1.99 57.71 False
    7 2020-08-15 East Jones Pencil 35 4.99 174.65 True
    8 2020-09-01 Central Smith Desk 32 125.00 250.00 True
    9 2020-10-05 Central Morgan Binder 28 8.99 251.72 True
    10 2020-11-08 East Mike Pen 15 19.99 299.85 False
    11 2020-12-12 Central Smith Pencil 67 1.29 86.43 False

    If you want to load only a limited number of rows into the DataFrame, you can specify the number of rows using the nrows argument:

    df = pd.read_excel('sales_data.xlsx', nrows=5)
    display(df)
    OrderDate Region Rep Item Units Unit Cost Total Shipped
    0 2020-01-06 East Jones Pencil 95 1.99 189.05 True
    1 2020-02-09 Central Jardine Pencil 36 4.99 179.64 True
    2 2020-03-15 West Sorvino Pencil 56 2.99 167.44 True
    3 2020-04-01 East Jones Binder 60 4.99 299.40 False
    4 2020-05-05 Central Jardine Pencil 90 4.99 449.10 True

    Skipping a specific number of rows from the begining of a spreadsheet or skipping over a list of particular rows is available through the skiprows argument, as follows:

    df = pd.read_excel('sales_data.xlsx', skiprows=range(5))
    display(df)
    2020-05-05 00:00:00 Central Jardine Pencil 90 4.99 449.1 True
    0 2020-06-08 East Jones Binder 60 8.99 539.40 True
    1 2020-07-12 East Howard Binder 29 1.99 57.71 False
    2 2020-08-15 East Jones Pencil 35 4.99 174.65 True
    3 2020-09-01 Central Smith Desk 32 125.00 250.00 True
    4 2020-10-05 Central Morgan Binder 28 8.99 251.72 True
    5 2020-11-08 East Mike Pen 15 19.99 299.85 False
    6 2020-12-12 Central Smith Pencil 67 1.29 86.43 False

    The code above skips the first five rows and returns the rest of the data. Instead, the following code returns all the rows except for those with the mentioned indices:

    df = pd.read_excel('sales_data.xlsx', skiprows=[1, 4,7,10])
    display(df)
    OrderDate Region Rep Item Units Unit Cost Total Shipped
    0 2020-02-09 Central Jardine Pencil 36 4.99 179.64 True
    1 2020-03-15 West Sorvino Pencil 56 2.99 167.44 True
    2 2020-05-05 Central Jardine Pencil 90 4.99 449.10 True
    3 2020-06-08 East Jones Binder 60 8.99 539.40 True
    4 2020-08-15 East Jones Pencil 35 4.99 174.65 True
    5 2020-09-01 Central Smith Desk 32 125.00 250.00 True
    6 2020-11-08 East Mike Pen 15 19.99 299.85 False
    7 2020-12-12 Central Smith Pencil 67 1.29 86.43 False

    Another useful argument is usecols, which allows us to select spreadsheet columns with their letters, names, or positional numbers. Let’s see how it works:

    df = pd.read_excel('sales_data.xlsx', usecols='A:C,G')
    display(df)
    OrderDate Region Rep Total
    0 2020-01-06 East Jones 189.05
    1 2020-02-09 Central Jardine 179.64
    2 2020-03-15 West Sorvino 167.44
    3 2020-04-01 East Jones 299.40
    4 2020-05-05 Central Jardine 449.10
    5 2020-06-08 East Jones 539.40
    6 2020-07-12 East Howard 57.71
    7 2020-08-15 East Jones 174.65
    8 2020-09-01 Central Smith 250.00
    9 2020-10-05 Central Morgan 251.72
    10 2020-11-08 East Mike 299.85
    11 2020-12-12 Central Smith 86.43

    In the code above, the string assigned to the usecols argument contains a range of columns with : plus column G separated by a comma. Also, we’re able to provide a list of column names and assign it to the usecols argument, as follows:

    df = pd.read_excel('sales_data.xlsx', usecols=['OrderDate', 'Region', 'Rep', 'Total'])
    display(df)
    OrderDate Region Rep Total
    0 2020-01-06 East Jones 189.05
    1 2020-02-09 Central Jardine 179.64
    2 2020-03-15 West Sorvino 167.44
    3 2020-04-01 East Jones 299.40
    4 2020-05-05 Central Jardine 449.10
    5 2020-06-08 East Jones 539.40
    6 2020-07-12 East Howard 57.71
    7 2020-08-15 East Jones 174.65
    8 2020-09-01 Central Smith 250.00
    9 2020-10-05 Central Morgan 251.72
    10 2020-11-08 East Mike 299.85
    11 2020-12-12 Central Smith 86.43

    The usecols argument accepts a list of column numbers, too. The following code shows how we can pick up specific columns using their indices:

    df = pd.read_excel('sales_data.xlsx', usecols=[0, 1, 2, 6])
    display(df)
    OrderDate Region Rep Total
    0 2020-01-06 East Jones 189.05
    1 2020-02-09 Central Jardine 179.64
    2 2020-03-15 West Sorvino 167.44
    3 2020-04-01 East Jones 299.40
    4 2020-05-05 Central Jardine 449.10
    5 2020-06-08 East Jones 539.40
    6 2020-07-12 East Howard 57.71
    7 2020-08-15 East Jones 174.65
    8 2020-09-01 Central Smith 250.00
    9 2020-10-05 Central Morgan 251.72
    10 2020-11-08 East Mike 299.85
    11 2020-12-12 Central Smith 86.43

    Working with Multiple Spreadsheets

    Excel files or workbooks usually contain more than one spreadsheet. The pandas library allows us to load data from a specific sheet or combine multiple spreadsheets into a single DataFrame. In this section, we’ll explore how to use these valuable capabilities.

    By default, the read_excel() method reads the first Excel sheet with the index 0. However, we can choose the other sheets by assigning a particular sheet name, sheet index, or even a list of sheet names or indices to the sheet_name argument. Let’s try it:

    df = pd.read_excel('sales_data.xlsx', sheet_name='2021')
    display(df)
    OrderDate Region Rep Item Units Unit Cost Total Shipped
    0 2021-01-15 Central Gill Binder 46 8.99 413.54 True
    1 2021-02-01 Central Smith Binder 87 15.00 1305.00 True
    2 2021-03-07 West Sorvino Binder 27 19.99 139.93 True
    3 2021-04-10 Central Andrews Pencil 66 1.99 131.34 False
    4 2021-05-14 Central Gill Pencil 53 1.29 68.37 False
    5 2021-06-17 Central Tom Desk 15 125.00 625.00 True
    6 2021-07-04 East Jones Pen Set 62 4.99 309.38 True
    7 2021-08-07 Central Tom Pen Set 42 23.95 1005.90 True
    8 2021-09-10 Central Gill Pencil 47 1.29 9.03 True
    9 2021-10-14 West Thompson Binder 57 19.99 1139.43 False
    10 2021-11-17 Central Jardine Binder 11 4.99 54.89 False
    11 2021-12-04 Central Jardine Binder 94 19.99 1879.06 False

    The code above reads the second spreadsheet in the workbook, whose name is 2021. As mentioned before, we also can assign a sheet position number (zero-indexed) to the sheet_name argument. Let’s see how it works:

    df = pd.read_excel('sales_data.xlsx', sheet_name=1)
    display(df)
    OrderDate Region Rep Item Units Unit Cost Total Shipped
    0 2021-01-15 Central Gill Binder 46 8.99 413.54 True
    1 2021-02-01 Central Smith Binder 87 15.00 1305.00 True
    2 2021-03-07 West Sorvino Binder 27 19.99 139.93 True
    3 2021-04-10 Central Andrews Pencil 66 1.99 131.34 False
    4 2021-05-14 Central Gill Pencil 53 1.29 68.37 False
    5 2021-06-17 Central Tom Desk 15 125.00 625.00 True
    6 2021-07-04 East Jones Pen Set 62 4.99 309.38 True
    7 2021-08-07 Central Tom Pen Set 42 23.95 1005.90 True
    8 2021-09-10 Central Gill Pencil 47 1.29 9.03 True
    9 2021-10-14 West Thompson Binder 57 19.99 1139.43 False
    10 2021-11-17 Central Jardine Binder 11 4.99 54.89 False
    11 2021-12-04 Central Jardine Binder 94 19.99 1879.06 False

    As you can see, both statements take in either the actual sheet name or sheet index to return the same result.

    Sometimes, we want to import all the spreadsheets stored in an Excel file into pandas DataFrames simultaneously. The good news is that the read_excel() method provides this feature for us. In order to do this, we can assign a list of sheet names or their indices to the sheet_name argument. But there is a much easier way to do the same: to assign None to the sheet_name argument. Let’s try it:

    all_sheets = pd.read_excel('sales_data.xlsx', sheet_name=None)

    Before exploring the data stored in the all_sheets variable, let’s check its data type:

    type(all_sheets)
    dict

    As you can see, the variable is a dictionary. Now, let’s reveal what is stored in this dictionary:

    for key, value in all_sheets.items():
        print(key, type(value))
    2020 <class 'pandas.core.frame.DataFrame'>
    2021 <class 'pandas.core.frame.DataFrame'>

    The code above shows that the dictionary’s keys are the Excel workbook sheet names, and its values are pandas DataFrames for each spreadsheet. To print out the content of the dictionary, we can use the following code:

    for key, value in all_sheets.items():
        print(key)
        display(value)
    2020
    OrderDate Region Rep Item Units Unit Cost Total Shipped
    0 2020-01-06 East Jones Pencil 95 1.99 189.05 True
    1 2020-02-09 Central Jardine Pencil 36 4.99 179.64 True
    2 2020-03-15 West Sorvino Pencil 56 2.99 167.44 True
    3 2020-04-01 East Jones Binder 60 4.99 299.40 False
    4 2020-05-05 Central Jardine Pencil 90 4.99 449.10 True
    5 2020-06-08 East Jones Binder 60 8.99 539.40 True
    6 2020-07-12 East Howard Binder 29 1.99 57.71 False
    7 2020-08-15 East Jones Pencil 35 4.99 174.65 True
    8 2020-09-01 Central Smith Desk 32 125.00 250.00 True
    9 2020-10-05 Central Morgan Binder 28 8.99 251.72 True
    10 2020-11-08 East Mike Pen 15 19.99 299.85 False
    11 2020-12-12 Central Smith Pencil 67 1.29 86.43 False
    2021
    OrderDate Region Rep Item Units Unit Cost Total Shipped
    0 2021-01-15 Central Gill Binder 46 8.99 413.54 True
    1 2021-02-01 Central Smith Binder 87 15.00 1305.00 True
    2 2021-03-07 West Sorvino Binder 27 19.99 139.93 True
    3 2021-04-10 Central Andrews Pencil 66 1.99 131.34 False
    4 2021-05-14 Central Gill Pencil 53 1.29 68.37 False
    5 2021-06-17 Central Tom Desk 15 125.00 625.00 True
    6 2021-07-04 East Jones Pen Set 62 4.99 309.38 True
    7 2021-08-07 Central Tom Pen Set 42 23.95 1005.90 True
    8 2021-09-10 Central Gill Pencil 47 1.29 9.03 True
    9 2021-10-14 West Thompson Binder 57 19.99 1139.43 False
    10 2021-11-17 Central Jardine Binder 11 4.99 54.89 False
    11 2021-12-04 Central Jardine Binder 94 19.99 1879.06 False

    Combining Multiple Excel Spreadsheets into a Single Pandas DataFrame

    Having one DataFrame per sheet allows us to have different columns or content in different sheets.

    But what if we prefer to store all the spreadsheets’ data in a single DataFrame? In this tutorial, the workbook spreadsheets have the same columns, so we can combine them with the concat() method of pandas.

    If you run the code below, you’ll see that the two DataFrames stored in the dictionary are concatenated:

    combined_df = pd.concat(all_sheets.values(), ignore_index=True)
    display(combined_df)
    OrderDate Region Rep Item Units Unit Cost Total Shipped
    0 2020-01-06 East Jones Pencil 95 1.99 189.05 True
    1 2020-02-09 Central Jardine Pencil 36 4.99 179.64 True
    2 2020-03-15 West Sorvino Pencil 56 2.99 167.44 True
    3 2020-04-01 East Jones Binder 60 4.99 299.40 False
    4 2020-05-05 Central Jardine Pencil 90 4.99 449.10 True
    5 2020-06-08 East Jones Binder 60 8.99 539.40 True
    6 2020-07-12 East Howard Binder 29 1.99 57.71 False
    7 2020-08-15 East Jones Pencil 35 4.99 174.65 True
    8 2020-09-01 Central Smith Desk 32 125.00 250.00 True
    9 2020-10-05 Central Morgan Binder 28 8.99 251.72 True
    10 2020-11-08 East Mike Pen 15 19.99 299.85 False
    11 2020-12-12 Central Smith Pencil 67 1.29 86.43 False
    12 2021-01-15 Central Gill Binder 46 8.99 413.54 True
    13 2021-02-01 Central Smith Binder 87 15.00 1305.00 True
    14 2021-03-07 West Sorvino Binder 27 19.99 139.93 True
    15 2021-04-10 Central Andrews Pencil 66 1.99 131.34 False
    16 2021-05-14 Central Gill Pencil 53 1.29 68.37 False
    17 2021-06-17 Central Tom Desk 15 125.00 625.00 True
    18 2021-07-04 East Jones Pen Set 62 4.99 309.38 True
    19 2021-08-07 Central Tom Pen Set 42 23.95 1005.90 True
    20 2021-09-10 Central Gill Pencil 47 1.29 9.03 True
    21 2021-10-14 West Thompson Binder 57 19.99 1139.43 False
    22 2021-11-17 Central Jardine Binder 11 4.99 54.89 False
    23 2021-12-04 Central Jardine Binder 94 19.99 1879.06 False

    Now the data stored in the combined_df DataFrame is ready for further processing or visualization. In the following piece of code, we’re going to create a simple bar chart that shows the total sales amount made by each representative. Let’s run it and see the output plot:

    total_sales_amount = combined_df.groupby('Rep').Total.sum()
    total_sales_amount.plot.bar(figsize=(10, 6))

    Output

    Reading Excel Files Using xlrd

    Although importing data into a pandas DataFrame is much more common, another helpful package for reading Excel files in Python is xlrd. In this section, we’re going to scratch the surface of how to read Excel spreadsheets using this package.


    NOTE

    The xlrd package doesn’t support xlsx files due to a potential security vulnerability. So, we use the xls version of the sales data. You can download the xls version from the link below:
    Sales Data Excel Workbook — xls ver.


    Let’s see how it works:

    import xlrd
    excel_workbook = xlrd.open_workbook('sales_data.xls')

    Above, the first line imports the xlrd package, then the open_workbook method reads the sales_data.xls file.

    We can also open an individual sheet containing the actual data. There are two ways to do so: opening a sheet by index or by name. Let’s open the first sheet by index and the second one by name:

    excel_worksheet_2020 = excel_workbook.sheet_by_index(0)
    excel_worksheet_2021 = excel_workbook.sheet_by_name('2021')

    Now, let’s see how we can print a cell value. The xlrd package provides a method called cell_value() that takes in two arguments: the cell’s row index and column index. Let’s explore it:

    print(excel_worksheet_2020.cell_value(1, 3))
    Pencil

    We can see that the cell_value function returned the value of the cell at row index 1 (the 2nd row) and column index 3 (the 4th column).
    Excel

    The xlrd package provides two helpful properties: nrows and ncols, returning the number of nonempty spreadsheet’s rows and columns respectively:

    print('Columns#:', excel_worksheet_2020.ncols)
    print('Rows#:', excel_worksheet_2020.nrows)
    Columns#: 8
    Rows#: 13

    Knowing the number of nonempty rows and columns in a spreadsheet helps us with iterating over the data using nested for loops. This makes all the Excel sheet data accessible via the cell_value() method.

    Conclusion

    This tutorial discussed how to load Excel spreadsheets into pandas DataFrames, work with multiple Excel sheets, and combine them into a single pandas DataFrame. We also explored the main aspects of the xlrd package as one of the simplest tools for accessing the Excel spreadsheets data.

    Узнайте, как читать и импортировать файлы Excel в Python, как записывать данные в эти таблицы и какие библиотеки лучше всего подходят для этого.

    Известный вам инструмент для организации, анализа и хранения ваших данных в таблицах — Excel — применяется и в data science. В какой-то момент вам придется иметь дело с этими таблицами, но работать именно с ними вы будете не всегда. Вот почему разработчики Python реализовали способы чтения, записи и управления не только этими файлами, но и многими другими типами файлов.

    Из этого учебника узнаете, как можете работать с Excel и Python. Внутри найдете обзор библиотек, которые вы можете использовать для загрузки и записи этих таблиц в файлы с помощью Python. Вы узнаете, как работать с такими библиотеками, как pandas, openpyxl, xlrd, xlutils и pyexcel.

    Данные как ваша отправная точка

    Когда вы начинаете проект по data science, вам придется работать с данными, которые вы собрали по всему интернету, и с наборами данных, которые вы загрузили из других мест — Kaggle, Quandl и тд

    Но чаще всего вы также найдете данные в Google или в репозиториях, которые используются другими пользователями. Эти данные могут быть в файле Excel или сохранены в файл с расширением .csv … Возможности могут иногда казаться бесконечными, но когда у вас есть данные, в первую очередь вы должны убедиться, что они качественные.

    В случае с электронной таблицей вы можете не только проверить, могут ли эти данные ответить на вопрос исследования, который вы имеете в виду, но также и можете ли вы доверять данным, которые хранятся в электронной таблице.

    Проверяем качество таблицы

    • Представляет ли электронная таблица статические данные?
    • Смешивает ли она данные, расчеты и отчетность?
    • Являются ли данные в вашей электронной таблице полными и последовательными?
    • Имеет ли ваша таблица систематизированную структуру рабочего листа?
    • Проверяли ли вы действительные формулы в электронной таблице?

    Этот список вопросов поможет убедиться, что ваша таблица не грешит против лучших практик, принятых в отрасли. Конечно, этот список не исчерпывающий, но позволит провести базовую проверку таблицы.

    Лучшие практики для данных электронных таблиц

    Прежде чем приступить к чтению вашей электронной таблицы на Python, вы также должны подумать о том, чтобы настроить свой файл в соответствии с некоторыми основными принципами, такими как:

    • Первая строка таблицы обычно зарезервирована для заголовка, а первый столбец используется для идентификации единицы выборки;
    • Избегайте имен, значений или полей с пробелами. В противном случае каждое слово будет интерпретироваться как отдельная переменная, что приведет к ошибкам, связанным с количеством элементов на строку в вашем наборе данных. По возможности, используйте:
    • подчеркивания,
    • тире,
    • горбатый регистр, где первая буква каждого слова пишется с большой буквы
    • объединяющие слова
    • Короткие имена предпочтительнее длинных имен;
    • старайтесь не использовать имена, которые содержат символы ?, $,%, ^, &, *, (,), -, #,? ,,, <,>, /, |, , [,], {, и };
    • Удалите все комментарии, которые вы сделали в вашем файле, чтобы избежать добавления в ваш файл лишних столбцов или NA;
    • Убедитесь, что все пропущенные значения в вашем наборе данных обозначены как NA.

    Затем, после того, как вы внесли необходимые изменения или тщательно изучили свои данные, убедитесь, что вы сохранили внесенные изменения. Сделав это, вы можете вернуться к данным позже, чтобы отредактировать их, добавить дополнительные данные или изменить их, сохранив формулы, которые вы, возможно, использовали для расчета данных и т.д.

    Если вы работаете с Microsoft Excel, вы можете сохранить файл в разных форматах: помимо расширения по умолчанию .xls или .xlsx, вы можете перейти на вкладку «Файл», нажать «Сохранить как» и выбрать одно из расширений, которые указаны в качестве параметров «Сохранить как тип». Наиболее часто используемые расширения для сохранения наборов данных в data science — это .csv и .txt (в виде текстового файла с разделителями табуляции). В зависимости от выбранного варианта сохранения поля вашего набора данных разделяются вкладками или запятыми, которые образуют символы-разделители полей вашего набора данных.

    Теперь, когда вы проверили и сохранили ваши данные, вы можете начать с подготовки вашего рабочего окружения.

    Готовим рабочее окружение

    Как убедиться, что вы все делаете хорошо? Проверить рабочее окружение!

    Когда вы работаете в терминале, вы можете сначала перейти в каталог, в котором находится ваш файл, а затем запустить Python. Убедитесь, что файл лежит именно в том каталоге, к которому вы обратились.

    Возможно, вы уже начали сеанс Python и у вас нет подсказок о каталоге, в котором вы работаете. Тогда можно выполнить следующие команды:

    # Import `os` 
    import os
    
    # Retrieve current working directory (`cwd`)
    cwd = os.getcwd()
    cwd
    
    # Change directory 
    os.chdir("/path/to/your/folder")
    
    # List all files and directories in current directory
    os.listdir('.')

    Круто, да?

    Вы увидите, что эти команды очень важны не только для загрузки ваших данных, но и для дальнейшего анализа. А пока давайте продолжим: вы прошли все проверки, вы сохранили свои данные и подготовили рабочее окружение.

    Можете ли вы начать с чтения данных в Python?

    Установите библиотеки для чтения и записи файлов Excel

    Даже если вы еще не знаете, какие библиотеки вам понадобятся для импорта ваших данных, вы должны убедиться, что у вас есть все, что нужно для установки этих библиотек, когда придет время.

    Подготовка к дополнительной рабочей области: pip

    Вот почему вам нужно установить pip и setuptools. Если у вас установлен Python2 ⩾ 2.7.9 или Python3  ⩾ 3.4, то можно не беспокоиться — просто убедитесь, что вы обновились до последней версии.

    Для этого выполните следующую команду в своем терминале:

    # Для Linux/OS X
    pip install -U pip setuptools
    
    # Для Windows
    python -m pip install -U pip setuptools

    Если вы еще не установили pip, запустите скрипт python get-pip.py, который вы можете найти здесь. Следуйте инструкциям по установке.

    Установка Anaconda

    Другой вариант для работы в data science — установить дистрибутив Anaconda Python. Сделав это, вы получите простой и быстрый способ начать заниматься data science, потому что вам не нужно беспокоиться об установке отдельных библиотек, необходимых для работы.

    Это особенно удобно, если вы новичок, но даже для более опытных разработчиков это способ быстро протестировать некоторые вещи без необходимости устанавливать каждую библиотеку отдельно.

    Anaconda включает в себя 100 самых популярных библиотек Python, R и Scala для науки о данных и несколько сред разработки с открытым исходным кодом, таких как Jupyter и Spyder.

    Установить Anaconda можно здесь. Следуйте инструкциям по установке, и вы готовы начать!

    Загрузить файлы Excel в виде фреймов Pandas

    Все, среда настроена, вы готовы начать импорт ваших файлов.

    Один из способов, который вы часто используете для импорта ваших файлов для обработки данных, — с помощью библиотеки Pandas. Она основана на NumPy и предоставляет простые в использовании структуры данных и инструменты анализа данных Python.

    Эта мощная и гибкая библиотека очень часто используется дата-инженерами для передачи своих данных в структуры данных, очень выразительных для их анализа.

    Если у вас уже есть Pandas, доступные через Anaconda, вы можете просто загрузить свои файлы в Pandas DataFrames с помощью pd.Excelfile():

    # импорт библиотеки pandas
    import pandas as pd
    
    # Загружаем ваш файл в переменную `file` / вместо 'example' укажите название свого файла из текущей директории
    file = 'example.xlsx'
    
    # Загружаем spreadsheet в объект pandas
    xl = pd.ExcelFile(file)
    
    # Печатаем название листов в данном файле
    print(xl.sheet_names)
    
    # Загрузить лист в DataFrame по его имени: df1
    df1 = xl.parse('Sheet1')

    Если вы не установили Anaconda, просто выполните pip install pandas, чтобы установить библиотеку Pandas в вашей среде, а затем выполните команды, которые включены в фрагмент кода выше.

    Проще простого, да?

    Для чтения в файлах .csv у вас есть аналогичная функция для загрузки данных в DataFrame: read_csv(). Вот пример того, как вы можете использовать эту функцию:

    # Импорт библиотеки pandas
    import pandas as pd
    
    # Загрузить csv файл
    df = pd.read_csv("example.csv") 

    Разделитель, который будет учитывать эта функция, по умолчанию является запятой, но вы можете указать альтернативный разделитель, если хотите. Перейдите к документации, чтобы узнать, какие другие аргументы вы можете указать для успешного импорта!

    Обратите внимание, что есть также функции read_table() и read_fwf() для чтения файлов и таблиц с фиксированной шириной в формате DataFrames с общим разделителем. Для первой функции разделителем по умолчанию является вкладка, но вы можете снова переопределить это, а также указать альтернативный символ-разделитель. Более того, есть и другие функции, которые вы можете использовать для получения данных в DataFrames: вы можете найти их здесь.

    Как записать Pandas DataFrames в файлы Excel

    Допустим, что после анализа данных вы хотите записать данные обратно в новый файл. Есть также способ записать ваши Pandas DataFrames обратно в файлы с помощью функции to_excel().

    Но, прежде чем использовать эту функцию, убедитесь, что у вас установлен XlsxWriter, если вы хотите записать свои данные в несколько листов в файле .xlsx:

    # Установим `XlsxWriter` 
    pip install XlsxWriter
    
    # Указать writer библиотеки
    writer = pd.ExcelWriter('example.xlsx', engine='xlsxwriter')
    
    # Записать ваш DataFrame в файл     
    yourData.to_excel(writer, 'Sheet1')
    
    # Сохраним результат 
    writer.save()

    Обратите внимание, что в приведенном выше фрагменте кода вы используете объект ExcelWriter для вывода DataFrame.

    Иными словами, вы передаете переменную Writer в функцию to_excel() и также указываете имя листа. Таким образом, вы добавляете лист с данными в существующую рабочую книгу: вы можете использовать ExcelWriter для сохранения нескольких (немного) разных DataFrames в одной рабочей книге.

    Все это означает, что если вы просто хотите сохранить один DataFrame в файл, вы также можете обойтись без установки пакета XlsxWriter. Затем вы просто не указываете аргумент движка, который вы передаете в функцию pd.ExcelWriter(). Остальные шаги остаются прежними.

    Аналогично функциям, которые вы использовали для чтения в файлах .csv, у вас также есть функция to_csv() для записи результатов обратно в файл, разделенный запятыми. Он снова работает так же, как когда вы использовали его для чтения в файле:

    # Запишите DataFrame в csv
    df.to_csv("example.csv")

    Если вы хотите иметь файл, разделенный табуляцией, вы также можете передать t аргументу sep. Обратите внимание, что есть другие функции, которые вы можете использовать для вывода ваших файлов. Вы можете найти их все здесь.

    Пакеты для разбора файлов Excel и обратной записи с помощью Python

    Помимо библиотеки Pandas, который вы будете использовать очень часто для загрузки своих данных, вы также можете использовать другие библиотеки для получения ваших данных в Python. Наш обзор основан на этой странице со списком доступных библиотек, которые вы можете использовать для работы с файлами Excel в Python.

    Далее вы увидите, как использовать эти библиотеки с помощью некоторых реальных, но упрощенных примеров.

    Использование виртуальных сред

    Общий совет для установки — делать это в Python virtualenv без системных пакетов. Вы можете использовать virtualenv для создания изолированных сред Python: он создает папку, содержащую все необходимые исполняемые файлы для использования пакетов, которые потребуются проекту Python.

    Чтобы начать работать с virtualenv, вам сначала нужно установить его. Затем перейдите в каталог, в который вы хотите поместить свой проект. Создайте virtualenv в этой папке и загрузите в определенную версию Python, если вам это нужно. Затем вы активируете виртуальную среду. После этого вы можете начать загрузку в другие библиотеки, начать работать с ними и т. д.

    Совет: не забудьте деактивировать среду, когда закончите!

    # Install virtualenv
    $ pip install virtualenv
    
    # Go to the folder of your project
    $ cd my_folder
    
    # Create a virtual environment `venv`
    $ virtualenv venv
    
    # Indicate the Python interpreter to use for `venv`
    $ virtualenv -p /usr/bin/python2.7 venv
    
    # Activate `venv`
    $ source venv/bin/activate
    
    # Deactivate `venv`
    $ deactivate

    Обратите внимание, что виртуальная среда может показаться немного проблемной на первый взгляд, когда вы только начинаете работать с данными с Python. И, особенно если у вас есть только один проект, вы можете не понять, зачем вам вообще нужна виртуальная среда.

    С ней будет гораздо легче, когда у вас одновременно запущено несколько проектов, и вы не хотите, чтобы они использовали одну и ту же установку Python. Или когда ваши проекты имеют противоречащие друг другу требования, виртуальная среда пригодится!

    Теперь вы можете, наконец, начать установку и импорт библиотек, о которых вы читали, и загрузить их в таблицу.

    Как читать и записывать файлы Excel с openpyxl

    Этот пакет обычно рекомендуется, если вы хотите читать и записывать файлы .xlsx, xlsm, xltx и xltm.

    Установите openpyxl с помощью pip: вы видели, как это сделать в предыдущем разделе.

    Общий совет для установки этой библиотеки — делать это в виртуальной среде Python без системных библиотек. Вы можете использовать виртуальную среду для создания изолированных сред Python: она создает папку, которая содержит все необходимые исполняемые файлы для использования библиотек, которые потребуются проекту Python.

    Перейдите в каталог, в котором находится ваш проект, и повторно активируйте виртуальную среду venv. Затем продолжите установку openpyxl с pip, чтобы убедиться, что вы можете читать и записывать файлы с ним:

    # Активируйте virtualenv
    $ source activate venv
    
    # Установим `openpyxl` в `venv`
    $ pip install openpyxl

    Теперь, когда вы установили openpyxl, вы можете загружать данные. Но что это за данные?

    Доспутим Excel с данными, которые вы пытаетесь загрузить в Python, содержит следующие листы:

    Функция load_workbook() принимает имя файла в качестве аргумента и возвращает объект рабочей книги, который представляет файл. Вы можете проверить это, запустив type (wb). Убедитесь, что вы находитесь в том каталоге, где находится ваша таблица, иначе вы получите error при импорте.

    # Import `load_workbook` module from `openpyxl`
    from openpyxl import load_workbook
    
    # Load in the workbook
    wb = load_workbook('./test.xlsx')
    
    # Get sheet names
    print(wb.get_sheet_names())

    Помните, что вы можете изменить рабочий каталог с помощью os.chdir().

    Вы видите, что фрагмент кода выше возвращает имена листов книги, загруженной в Python.Можете использовать эту информацию, чтобы также получить отдельные листы рабочей книги.

    Вы также можете проверить, какой лист в настоящее время активен с wb.active. Как видно из кода ниже, вы можете использовать его для загрузки другого листа из вашей книги:

    # Get a sheet by name 
    sheet = wb.get_sheet_by_name('Sheet3')
    
    # Print the sheet title 
    sheet.title
    
    # Get currently active sheet
    anotherSheet = wb.active
    
    # Check `anotherSheet` 
    anotherSheet

    На первый взгляд, с этими объектами рабочего листа вы не сможете многое сделать.. Однако вы можете извлечь значения из определенных ячеек на листе вашей книги, используя квадратные скобки [], в которые вы передаете точную ячейку, из которой вы хотите получить значение.

    Обратите внимание, что это похоже на выбор, получение и индексирование массивов NumPy и Pandas DataFrames, но это не все, что вам нужно сделать, чтобы получить значение. Вам нужно добавить атрибут value:

    # Retrieve the value of a certain cell
    sheet['A1'].value
    
    # Select element 'B2' of your sheet 
    c = sheet['B2']
    
    # Retrieve the row number of your element
    c.row
    
    # Retrieve the column letter of your element
    c.column
    
    # Retrieve the coordinates of the cell 
    c.coordinate

    Как вы можете видеть, помимо значения, есть и другие атрибуты, которые вы можете использовать для проверки вашей ячейки, а именно: row, column и coordinate.

    Атрибут row вернет 2;

    Добавление атрибута column к c даст вам ‘B’

    coordinate вернет ‘B2’.

    Вы также можете получить значения ячеек с помощью функции cell(). Передайте row и column, добавьте к этим аргументам значения, соответствующие значениям ячейки, которую вы хотите получить, и, конечно же, не забудьте добавить атрибут value:

    # Retrieve cell value 
    sheet.cell(row=1, column=2).value
    
    # Print out values in column 2 
    for i in range(1, 4):
         print(i, sheet.cell(row=i, column=2).value)

    Обратите внимание, что если вы не укажете атрибут value, вы получите <Cell Sheet3.B1>, который ничего не говорит о значении, которое содержится в этой конкретной ячейке.

    Вы видите, что вы используете цикл for с помощью функции range(), чтобы помочь вам распечатать значения строк, имеющих значения в столбце 2. Если эти конкретные ячейки пусты, вы просто вернете None. Если вы хотите узнать больше о циклах for, пройдите наш курс Intermediate Python для Data Science.

    Есть специальные функции, которые вы можете вызывать для получения некоторых других значений, например, get_column_letter() и column_index_from_string.

    Две функции указывают примерно то, что вы можете получить, используя их, но лучше сделать их четче: хотя вы можете извлечь букву столбца с предшествующего, вы можете сделать обратное или получить адрес столбца, когда вы задаёте букву последнему. Вы можете увидеть, как это работает ниже:

    # Импорт необходимых модулей из  `openpyxl.utils`
    from openpyxl.utils import get_column_letter, column_index_from_string
    
    # Вывод 'A'
    get_column_letter(1)
    
    # Return '1'
    column_index_from_string('A')

    Вы уже получили значения для строк, которые имеют значения в определенном столбце, но что вам нужно сделать, если вы хотите распечатать строки вашего файла, не сосредотачиваясь только на одном столбце? Использовать другой цикл, конечно!

    Например, вы говорите, что хотите сфокусироваться на области между «А1» и «С3», где первая указывает на левый верхний угол, а вторая — на правый нижний угол области, на которой вы хотите сфокусироваться. ,

    Эта область будет так называемым cellObj, который вы видите в первой строке кода ниже. Затем вы говорите, что для каждой ячейки, которая находится в этой области, вы печатаете координату и значение, которое содержится в этой ячейке. После конца каждой строки вы печатаете сообщение, которое указывает, что строка этой области cellObj напечатана.

    # Напечатать строчку за строчкой
    for cellObj in sheet['A1':'C3']:
          for cell in cellObj:
                  print(cells.coordinate, cells.value)
          print('--- END ---')

    Еще раз обратите внимание, что выбор области очень похож на выбор, получение и индексирование списка и элементов массива NumPy, где вы также используете [] и : для указания области, значения которой вы хотите получить. Кроме того, вышеприведенный цикл также хорошо использует атрибуты ячейки!

    Чтобы сделать вышеприведенное объяснение и код наглядным, вы можете проверить результат, который вы получите после завершения цикла:

    ('A1', u'M')
    ('B1', u'N')
    ('C1', u'O')
    --- END ---
    ('A2', 10L)
    ('B2', 11L)
    ('C2', 12L)
    --- END ---
    ('A3', 14L)
    ('B3', 15L)
    ('C3', 16L)
    --- END ---

    Наконец, есть некоторые атрибуты, которые вы можете использовать для проверки результата вашего импорта, а именно max_row и max_column. Эти атрибуты, конечно, и так  — общие способы проверки правильности загрузки данных, но они все равно полезны.

    # Вывести максимальное количество строк 
    sheet.max_row
    
    # Вывести максимальное количество колонок 
    sheet.max_column

    Наверное, вы думаете, что такой способ работы с этими файлами сложноват, особенно если вы еще хотите манипулировать данными.

    Должно быть что-то попроще, верно? Так и есть!

    openpyxl поддерживает Pandas DataFrames! Вы можете использовать функцию DataFrame() из библиотеки Pandas, чтобы поместить значения листа в DataFrame:

    # Import `pandas` 
    import pandas as pd
    
    # конвертировать Лист в DataFrame
    df = pd.DataFrame(sheet.values)

    Если вы хотите указать заголовки и индексы, вам нужно добавить немного больше кода:

    # Put the sheet values in `data`
    data = sheet.values
    
    # Indicate the columns in the sheet values
    cols = next(data)[1:]
    
    # Convert your data to a list
    data = list(data)
    
    # Read in the data at index 0 for the indices
    idx = [r[0] for r in data]
    
    # Slice the data at index 1 
    data = (islice(r, 1, None) for r in data)
    
    # Make your DataFrame
    df = pd.DataFrame(data, index=idx, columns=cols)

    Затем вы можете начать манипулировать данными со всеми функциями, которые предлагает библиотека Pandas. Но помните, что вы находитесь в виртуальной среде, поэтому, если библиотека еще не представлена, вам нужно будет установить ее снова через pip.

    Чтобы записать ваши Pandas DataFrames обратно в файл Excel, вы можете легко использовать функцию dataframe_to_rows() из модуля utils:

    # Import `dataframe_to_rows`
    from openpyxl.utils.dataframe import dataframe_to_rows
    
    # Initialize a workbook 
    wb = Workbook()
    
    # Get the worksheet in the active workbook
    ws = wb.active
    
    # Append the rows of the DataFrame to your worksheet
    for r in dataframe_to_rows(df, index=True, header=True):
        ws.append(r)

    Но это точно не все! Библиотека openpyxl предлагает вам высокую гибкость при записи ваших данных обратно в файлы Excel, изменении стилей ячеек или использовании режима write-only. Эту библиотеку обязательно нужно знать, когда вы часто работаете с электронными таблицами ,

    Совет: читайте больше о том, как вы можете изменить стили ячеек, перейти в режим write-only или как библиотека работает с NumPy здесь.

    Теперь давайте также рассмотрим некоторые другие библиотеки, которые вы можете использовать для получения данных вашей электронной таблицы в Python.

    Прежде чем закрыть этот раздел, не забудьте отключить виртуальную среду, когда закончите!

    Чтение и форматирование Excel-файлов: xlrd

    Эта библиотека идеально подходит для чтения и форматирования данных из Excel с расширением xls или xlsx.

    # Import `xlrd`
    import xlrd
    
    # Open a workbook 
    workbook = xlrd.open_workbook('example.xls')
    
    # Loads only current sheets to memory
    workbook = xlrd.open_workbook('example.xls', on_demand = True)

    Когда вам не нужны данные из всей Excel-книги, вы можете использовать функции sheet_by_name() или sheet_by_index() для получения листов, которые вы хотите получить в своём анализе

    # Load a specific sheet by name
    worksheet = workbook.sheet_by_name('Sheet1')
    
    # Load a specific sheet by index 
    worksheet = workbook.sheet_by_index(0)
    
    # Retrieve the value from cell at indices (0,0) 
    sheet.cell(0, 0).value

    Также можно получить значение в определённых ячейках с вашего листа.

    Перейдите к xlwt и xlutils, чтобы узнать больше о том, как они относятся к библиотеке xlrd.

    Запись данных в Excel-файлы с xlwt

    Если вы хотите создать таблицу со своими данными, вы можете использовать не только библиотеку XlsWriter, но и xlwt. xlwt идеально подходит для записи данных и форматирования информации в файлах с расширением .xls

    Когда вы вручную создаёте файл:

    # Import `xlwt` 
    import xlwt
    
    # Initialize a workbook 
    book = xlwt.Workbook(encoding="utf-8")
    
    # Add a sheet to the workbook 
    sheet1 = book.add_sheet("Python Sheet 1") 
    
    # Write to the sheet of the workbook 
    sheet1.write(0, 0, "This is the First Cell of the First Sheet") 
    
    # Save the workbook 
    book.save("spreadsheet.xls")

    Если вы хотите записать данные в файл, но не хотите делать все самостоятельно, вы всегда можете прибегнуть к циклу for, чтобы автоматизировать весь процесс. Составьте сценарий, в котором вы создаёте книгу и в которую добавляете лист. Укажите список со столбцами и один со значениями, которые будут заполнены на листе.

    Далее у вас есть цикл for, который гарантирует, что все значения попадают в файл: вы говорите, что для каждого элемента в диапазоне от 0 до 4 (5 не включительно) вы собираетесь что-то делать. Вы будете заполнять значения построчно. Для этого вы указываете элемент строки, который появляется в каждом цикле. Далее у вас есть еще один цикл for, который будет проходить по столбцам вашего листа. Вы говорите, что для каждой строки на листе, вы будете смотреть на столбцы, которые идут с ним, и вы будете заполнять значение для каждого столбца в строке. Заполнив все столбцы строки значениями, вы перейдете к следующей строке, пока не останется строк.

    # Initialize a workbook
    book = xlwt.Workbook()
    
    # Add a sheet to the workbook
    sheet1 = book.add_sheet("Sheet1")
    
    # The data
    cols = ["A", "B", "C", "D", "E"]
    txt = [0,1,2,3,4]
    
    # Loop over the rows and columns and fill in the values
    for num in range(5):
          row = sheet1.row(num)
          for index, col in enumerate(cols):
              value = txt[index] + num
              row.write(index, value)
    
    # Save the result
    book.save("test.xls")

    На скриншоте ниже представлен результат выполнения этого кода:

    Теперь, когда вы увидели, как xlrd и xlwt работают друг с другом, пришло время взглянуть на библиотеку, которая тесно связана с этими двумя: xlutils.

    Сборник утилит: xlutils

    Эта библиотека — сборник утилит, для которого требуются и xlrd и xlwt, и которая может копировать, изменять и фильтровать существующие данные. О том, как пользоваться этими командами рассказано в разделе по openpyxl.

    Вернитесь в раздел openpyxl, чтобы получить больше информации о том, как использовать этот пакет для получения данных в Python.

    Использование pyexcel для чтения .xls или .xlsx файлов

    Еще одна библиотека, которую можно использовать для чтения данных электронных таблиц в Python — это pyexcel; Python Wrapper, который предоставляет один API для чтения, записи и работы с данными в файлах .csv, .ods, .xls, .xlsx и .xlsm. Конечно, для этого урока вы просто сосредоточитесь на файлах .xls и .xls.

    Чтобы получить ваши данные в массиве, вы можете использовать функцию get_array(), которая содержится в пакете pyexcel:

    # Import `pyexcel`
    import pyexcel
    
    # Get an array from the data
    my_array = pyexcel.get_array(file_name="test.xls")

    Вы также можете получить свои данные в упорядоченном словаре списков. Вы можете использовать функцию get_dict():

    # Import `OrderedDict` module 
    from pyexcel._compact import OrderedDict
    
    # Get your data in an ordered dictionary of lists
    my_dict = pyexcel.get_dict(file_name="test.xls", name_columns_by_row=0)
    
    # Get your data in a dictionary of 2D arrays
    book_dict = pyexcel.get_book_dict(file_name="test.xls")

    Здесь видно, что если вы хотите получить словарь двумерных массивов или получить все листы рабочей книги в одном словаре, вы можете прибегнуть к get_book_dict().

    Помните, что эти две структуры данных, которые были упомянуты выше, массивы и словари вашей таблицы, позволяют вам создавать DataFrames ваших данных с помощью pd.DataFrame(). Это облегчит обработку данных.

    Кроме того, вы можете просто получить записи из таблицы с помощью pyexcel благодаря функции get_records(). Просто передайте аргумент file_name в функцию, и вы получите список словарей:

    # Retrieve the records of the file
    records = pyexcel.get_records(file_name="test.xls")

    Чтобы узнать, как управлять списками Python, ознакомьтесь с примерами из документации о списках Python.

    Запись в файл с pyexcel

    С помощью этой библиотеки можно не только загружать данные в массивы, вы также можете экспортировать свои массивы обратно в таблицу. Используйте функцию save_as() и передайте массив и имя файла назначения в аргумент dest_file_name:

    # Get the data
    data = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
    
    # Save the array to a file
    pyexcel.save_as(array=data, dest_file_name="array_data.xls")

    Обратите внимание, что если вы хотите указать разделитель, вы можете добавить аргумент dest_delimiter и передать символ, который вы хотите использовать в качестве разделителя между «».

    Однако если у вас есть словарь, вам нужно использовать функцию save_book_as(). Передайте двумерный словарь в bookdict и укажите имя файла:

    # The data
    2d_array_dictionary = {'Sheet 1': [
                                       ['ID', 'AGE', 'SCORE']
                                       [1, 22, 5],
                                       [2, 15, 6],
                                       [3, 28, 9]
                                      ],
                           'Sheet 2': [
                                        ['X', 'Y', 'Z'],
                                        [1, 2, 3],
                                        [4, 5, 6]
                                        [7, 8, 9]
                                      ],
                           'Sheet 3': [
                                        ['M', 'N', 'O', 'P'],
                                        [10, 11, 12, 13],
                                        [14, 15, 16, 17]
                                        [18, 19, 20, 21]
                                       ]}
    
    # Save the data to a file                        
    pyexcel.save_book_as(bookdict=2d_array_dictionary, dest_file_name="2d_array_data.xls")

    При использовании кода, напечатанного в приведенном выше примере, важно помнить, что порядок ваших данных в словаре не будет сохранен. Если вы не хотите этого, вам нужно сделать небольшой обход. Вы можете прочитать все об этом здесь.

    Чтение и запись .csv файлов

    Если вы все еще ищете библиотеки, которые позволяют загружать и записывать данные в файлы .csv, кроме Pandas, лучше всего использовать пакет csv:

    # import `csv`
    import csv
    
    # Read in csv file 
    for row in csv.reader(open('data.csv'), delimiter=','):
          print(row)
          
    # Write csv file
    data = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
    outfile = open('data.csv', 'w')
    writer = csv.writer(outfile, delimiter=';', quotechar='"')
    writer.writerows(data)
    outfile.close()

    Обратите внимание, что в пакете NumPy есть функция genfromtxt(), которая позволяет загружать данные, содержащиеся в файлах .csv, в массивы, которые затем можно поместить в DataFrames.

    Финальная проверка данных

    Когда у вас есть данные, не забудьте последний шаг: проверить, правильно ли загружены данные. Если вы поместили свои данные в DataFrame, вы можете легко и быстро проверить, был ли импорт успешным, выполнив следующие команды:

    # Check the first entries of the DataFrame
    df1.head()
    
    # Check the last entries of the DataFrame
    df1.tail()

    Если у вас есть данные в массиве, вы можете проверить их, используя следующие атрибуты массива: shape, ndim, dtype и т.д .:

    # Inspect the shape 
    data.shape
    
    # Inspect the number of dimensions
    data.ndim
    
    # Inspect the data type
    data.dtype
    

    Что дальше?

    Поздравляем! Вы успешно прошли наш урок и научились читать файлы Excel на Python.

    Если вы хотите продолжить работу над этой темой, попробуйте воспользоваться PyXll, который позволяет писать функции в Python и вызывать их в Excel.

    Время на прочтение
    10 мин

    Количество просмотров 290K

    Первая часть статьи была опубликована тут.

    Как читать и редактировать Excel файлы при помощи openpyxl

    ПЕРЕВОД
    Оригинал статьи — www.datacamp.com/community/tutorials/python-excel-tutorial
    Автор — Karlijn Willems

    Эта библиотека пригодится, если вы хотите читать и редактировать файлы .xlsx, xlsm, xltx и xltm.

    Установите openpyxl using pip. Общие рекомендации по установке этой библиотеки — сделать это в виртуальной среде Python без системных библиотек. Вы можете использовать виртуальную среду для создания изолированных сред Python: она создает папку, содержащую все необходимые файлы, для использования библиотек, которые потребуются для Python.

    Перейдите в директорию, в которой находится ваш проект, и повторно активируйте виртуальную среду venv. Затем перейдите к установке openpyxl с помощью pip, чтобы убедиться, что вы можете читать и записывать с ним файлы:

    # Activate virtualenv
    $ source activate venv
    
    # Install `openpyxl` in `venv`
    $ pip install openpyxl
    

    Теперь, когда вы установили openpyxl, вы можете начать загрузку данных. Но что именно это за данные? Например, в книге с данными, которые вы пытаетесь получить на Python, есть следующие листы:

    Функция load_workbook () принимает имя файла в качестве аргумента и возвращает объект рабочей книги, который представляет файл. Это можно проверить запуском type (wb). Не забудьте убедиться, что вы находитесь в правильной директории, где расположена электронная таблица. В противном случае вы получите сообщение об ошибке при импорте.

    # Import `load_workbook` module from `openpyxl`
    from openpyxl import load_workbook
    
    # Load in the workbook
    wb = load_workbook('./test.xlsx')
    
    # Get sheet names
    print(wb.get_sheet_names())

    Помните, вы можете изменить рабочий каталог с помощью os.chdir (). Фрагмент кода выше возвращает имена листов книги, загруженной в Python. Вы можете использовать эту информацию для получения отдельных листов книги. Также вы можете проверить, какой лист активен в настоящий момент с помощью wb.active. В приведенном ниже коде, вы также можете использовать его для загрузки данных на другом листе книги:

    # Get a sheet by name 
    sheet = wb.get_sheet_by_name('Sheet3')
    
    # Print the sheet title 
    sheet.title
    
    # Get currently active sheet
    anotherSheet = wb.active
    
    # Check `anotherSheet` 
    anotherSheet

    На первый взгляд, с этими объектами Worksheet мало что можно сделать. Однако, можно извлекать значения из определенных ячеек на листе книги, используя квадратные скобки [], к которым нужно передавать точную ячейку, из которой вы хотите получить значение.

    Обратите внимание, это похоже на выбор, получение и индексирование массивов NumPy и Pandas DataFrames, но это еще не все, что нужно сделать, чтобы получить значение. Нужно еще добавить значение атрибута:

    # Retrieve the value of a certain cell
    sheet['A1'].value
    
    # Select element 'B2' of your sheet 
    c = sheet['B2']
    
    # Retrieve the row number of your element
    c.row
    
    # Retrieve the column letter of your element
    c.column
    
    # Retrieve the coordinates of the cell 
    c.coordinate

    Помимо value, есть и другие атрибуты, которые можно использовать для проверки ячейки, а именно row, column и coordinate:

    Атрибут row вернет 2;
    Добавление атрибута column к “С” даст вам «B»;
    coordinate вернет «B2».

    Вы также можете получить значения ячеек с помощью функции cell (). Передайте аргументы row и column, добавьте значения к этим аргументам, которые соответствуют значениям ячейки, которые вы хотите получить, и, конечно же, не забудьте добавить атрибут value:

    # Retrieve cell value 
    sheet.cell(row=1, column=2).value
    
    # Print out values in column 2 
    for i in range(1, 4):
         print(i, sheet.cell(row=i, column=2).value)

    Обратите внимание: если вы не укажете значение атрибута value, вы получите <Cell Sheet3.B1>, который ничего не говорит о значении, которое содержится в этой конкретной ячейке.

    Вы используете цикл с помощью функции range (), чтобы помочь вам вывести значения строк, которые имеют значения в столбце 2. Если эти конкретные ячейки пусты, вы получите None.
    Более того, существуют специальные функции, которые вы можете вызвать, чтобы получить другие значения, например get_column_letter () и column_index_from_string.

    В двух функциях уже более или менее указано, что вы можете получить, используя их. Но лучше всего сделать их явными: пока вы можете получить букву прежнего столбца, можно сделать обратное или получить индекс столбца, перебирая букву за буквой. Как это работает:

    # Import relevant modules from `openpyxl.utils`
    from openpyxl.utils import get_column_letter, column_index_from_string
    
    # Return 'A'
    get_column_letter(1)
    
    # Return '1'
    column_index_from_string('A')

    Вы уже получили значения для строк, которые имеют значения в определенном столбце, но что нужно сделать, если нужно вывести строки файла, не сосредотачиваясь только на одном столбце?

    Конечно, использовать другой цикл.

    Например, вы хотите сосредоточиться на области, находящейся между «A1» и «C3», где первый указывает левый верхний угол, а второй — правый нижний угол области, на которой вы хотите сфокусироваться. Эта область будет так называемой cellObj, которую вы видите в первой строке кода ниже. Затем вы указываете, что для каждой ячейки, которая находится в этой области, вы хотите вывести координату и значение, которое содержится в этой ячейке. После окончания каждой строки вы хотите выводить сообщение-сигнал о том, что строка этой области cellObj была выведена.

    # Print row per row
    for cellObj in sheet['A1':'C3']:
          for cell in cellObj:
                  print(cells.coordinate, cells.value)
          print('--- END ---')

    Обратите внимание, что выбор области очень похож на выбор, получение и индексирование списка и элементы NumPy, где вы также используете квадратные скобки и двоеточие чтобы указать область, из которой вы хотите получить значения. Кроме того, вышеприведенный цикл также хорошо использует атрибуты ячейки!

    Чтобы визуализировать описанное выше, возможно, вы захотите проверить результат, который вернет вам завершенный цикл:

    ('A1', u'M')
    ('B1', u'N')
    ('C1', u'O')
    --- END ---
    ('A2', 10L)
    ('B2', 11L)
    ('C2', 12L)
    --- END ---
    ('A3', 14L)
    ('B3', 15L)
    ('C3', 16L)
    --- END ---

    Наконец, есть некоторые атрибуты, которые вы можете использовать для проверки результата импорта, а именно max_row и max_column. Эти атрибуты, конечно, являются общими способами обеспечения правильной загрузки данных, но тем не менее в данном случае они могут и будут полезны.

    # Retrieve the maximum amount of rows 
    sheet.max_row
    
    # Retrieve the maximum amount of columns
    sheet.max_column

    Это все очень классно, но мы почти слышим, что вы сейчас думаете, что это ужасно трудный способ работать с файлами, особенно если нужно еще и управлять данными.
    Должно быть что-то проще, не так ли? Всё так!

    Openpyxl имеет поддержку Pandas DataFrames. И можно использовать функцию DataFrame () из пакета Pandas, чтобы поместить значения листа в DataFrame:

    # Import `pandas` 
    import pandas as pd
    
    # Convert Sheet to DataFrame
    df = pd.DataFrame(sheet.values)
    Если вы хотите указать заголовки и индексы, вам нужно добавить немного больше кода:
    # Put the sheet values in `data`
    data = sheet.values
    
    # Indicate the columns in the sheet values
    cols = next(data)[1:]
    
    # Convert your data to a list
    data = list(data)
    
    # Read in the data at index 0 for the indices
    idx = [r[0] for r in data]
    
    # Slice the data at index 1 
    data = (islice(r, 1, None) for r in data)
    
    # Make your DataFrame
    df = pd.DataFrame(data, index=idx, columns=cols)

    Затем вы можете начать управлять данными при помощи всех функций, которые есть в Pandas. Но помните, что вы находитесь в виртуальной среде, поэтому, если библиотека еще не подключена, вам нужно будет установить ее снова через pip.

    Чтобы записать Pandas DataFrames обратно в файл Excel, можно использовать функцию dataframe_to_rows () из модуля utils:

    # Import `dataframe_to_rows`
    from openpyxl.utils.dataframe import dataframe_to_rows
    
    # Initialize a workbook 
    wb = Workbook()
    
    # Get the worksheet in the active workbook
    ws = wb.active
    
    # Append the rows of the DataFrame to your worksheet
    for r in dataframe_to_rows(df, index=True, header=True):
        ws.append(r)

    Но это определенно не все! Библиотека openpyxl предлагает вам высокую гибкость в отношении того, как вы записываете свои данные в файлы Excel, изменяете стили ячеек или используете режим только для записи. Это делает ее одной из тех библиотек, которую вам точно необходимо знать, если вы часто работаете с электронными таблицами.

    И не забудьте деактивировать виртуальную среду, когда закончите работу с данными!

    Теперь давайте рассмотрим некоторые другие библиотеки, которые вы можете использовать для получения данных в электронной таблице на Python.

    Готовы узнать больше?

    Чтение и форматирование Excel файлов xlrd
    Эта библиотека идеальна, если вы хотите читать данные и форматировать данные в файлах с расширением .xls или .xlsx.

    # Import `xlrd`
    import xlrd
    
    # Open a workbook 
    workbook = xlrd.open_workbook('example.xls')
    
    # Loads only current sheets to memory
    workbook = xlrd.open_workbook('example.xls', on_demand = True)

    Если вы не хотите рассматривать всю книгу, можно использовать такие функции, как sheet_by_name () или sheet_by_index (), чтобы извлекать листы, которые необходимо использовать в анализе.

    # Load a specific sheet by name
    worksheet = workbook.sheet_by_name('Sheet1')
    
    # Load a specific sheet by index 
    worksheet = workbook.sheet_by_index(0)
    
    # Retrieve the value from cell at indices (0,0) 
    sheet.cell(0, 0).value

    Наконец, можно получить значения по определенным координатам, обозначенным индексами.
    О том, как xlwt и xlutils, соотносятся с xlrd расскажем дальше.

    Запись данных в Excel файл при помощи xlrd

    Если нужно создать электронные таблицы, в которых есть данные, кроме библиотеки XlsxWriter можно использовать библиотеки xlwt. Xlwt идеально подходит для записи и форматирования данных в файлы с расширением .xls.

    Когда вы вручную хотите записать в файл, это будет выглядеть так:

    # Import `xlwt` 
    import xlwt
    
    # Initialize a workbook 
    book = xlwt.Workbook(encoding="utf-8")
    
    # Add a sheet to the workbook 
    sheet1 = book.add_sheet("Python Sheet 1") 
    
    # Write to the sheet of the workbook 
    sheet1.write(0, 0, "This is the First Cell of the First Sheet") 
    
    # Save the workbook 
    book.save("spreadsheet.xls")

    Если нужно записать данные в файл, то для минимизации ручного труда можно прибегнуть к циклу for. Это позволит немного автоматизировать процесс. Делаем скрипт, в котором создается книга, в которую добавляется лист. Далее указываем список со столбцами и со значениями, которые будут перенесены на рабочий лист.

    Цикл for будет следить за тем, чтобы все значения попадали в файл: задаем, что с каждым элементом в диапазоне от 0 до 4 (5 не включено) мы собираемся производить действия. Будем заполнять значения строка за строкой. Для этого указываем row элемент, который будет “прыгать” в каждом цикле. А далее у нас следующий for цикл, который пройдется по столбцам листа. Задаем условие, что для каждой строки на листе смотрим на столбец и заполняем значение для каждого столбца в строке. Когда заполнили все столбцы строки значениями, переходим к следующей строке, пока не заполним все имеющиеся строки.

    # Initialize a workbook
    book = xlwt.Workbook()
    
    # Add a sheet to the workbook
    sheet1 = book.add_sheet("Sheet1")
    
    # The data
    cols = ["A", "B", "C", "D", "E"]
    txt = [0,1,2,3,4]
    
    # Loop over the rows and columns and fill in the values
    for num in range(5):
          row = sheet1.row(num)
          for index, col in enumerate(cols):
              value = txt[index] + num
              row.write(index, value)
    
    # Save the result
    book.save("test.xls")

    В качестве примера скриншот результирующего файла:

    Теперь, когда вы видели, как xlrd и xlwt взаимодействуют вместе, пришло время посмотреть на библиотеку, которая тесно связана с этими двумя: xlutils.

    Коллекция утилит xlutils

    Эта библиотека в основном представляет собой набор утилит, для которых требуются как xlrd, так и xlwt. Включает в себя возможность копировать и изменять/фильтровать существующие файлы. Вообще говоря, оба этих случая подпадают теперь под openpyxl.

    Использование pyexcel для чтения файлов .xls или .xlsx

    Еще одна библиотека, которую можно использовать для чтения данных таблиц в Python — pyexcel. Это Python Wrapper, который предоставляет один API для чтения, обработки и записи данных в файлах .csv, .ods, .xls, .xlsx и .xlsm.

    Чтобы получить данные в массиве, можно использовать функцию get_array (), которая содержится в пакете pyexcel:

    # Import `pyexcel`
    import pyexcel
    
    # Get an array from the data
    my_array = pyexcel.get_array(file_name="test.xls")
     
    Также можно получить данные в упорядоченном словаре списков, используя функцию get_dict ():
    # Import `OrderedDict` module 
    from pyexcel._compact import OrderedDict
    
    # Get your data in an ordered dictionary of lists
    my_dict = pyexcel.get_dict(file_name="test.xls", name_columns_by_row=0)
    
    # Get your data in a dictionary of 2D arrays
    book_dict = pyexcel.get_book_dict(file_name="test.xls")

    Однако, если вы хотите вернуть в словарь двумерные массивы или, иными словами, получить все листы книги в одном словаре, стоит использовать функцию get_book_dict ().

    Имейте в виду, что обе упомянутые структуры данных, массивы и словари вашей электронной таблицы, позволяют создавать DataFrames ваших данных с помощью pd.DataFrame (). Это упростит обработку ваших данных!

    Наконец, вы можете просто получить записи с pyexcel благодаря функции get_records (). Просто передайте аргумент file_name функции и обратно получите список словарей:

    # Retrieve the records of the file
    records = pyexcel.get_records(file_name="test.xls")

    Записи файлов при помощи pyexcel

    Так же, как загрузить данные в массивы с помощью этого пакета, можно также легко экспортировать массивы обратно в электронную таблицу. Для этого используется функция save_as () с передачей массива и имени целевого файла в аргумент dest_file_name:

    # Get the data
    data = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
    
    # Save the array to a file
    pyexcel.save_as(array=data, dest_file_name="array_data.xls")

    Обратите внимание: если указать разделитель, то можно добавить аргумент dest_delimiter и передать символ, который хотите использовать, в качестве разделителя между “”.

    Однако, если у вас есть словарь, нужно будет использовать функцию save_book_as (). Передайте двумерный словарь в bookdict и укажите имя файла, и все ОК:

    # The data
    2d_array_dictionary = {'Sheet 1': [
                                       ['ID', 'AGE', 'SCORE']
                                       [1, 22, 5],
                                       [2, 15, 6],
                                       [3, 28, 9]
                                      ],
                           'Sheet 2': [
                                        ['X', 'Y', 'Z'],
                                        [1, 2, 3],
                                        [4, 5, 6]
                                        [7, 8, 9]
                                      ],
                           'Sheet 3': [
                                        ['M', 'N', 'O', 'P'],
                                        [10, 11, 12, 13],
                                        [14, 15, 16, 17]
                                        [18, 19, 20, 21]
                                       ]}
    
    # Save the data to a file                        
    pyexcel.save_book_as(bookdict=2d_array_dictionary, dest_file_name="2d_array_data.xls")

    Помните, что когда используете код, который напечатан в фрагменте кода выше, порядок данных в словаре не будет сохранен!

    Чтение и запись .csv файлов

    Если вы все еще ищете библиотеки, которые позволяют загружать и записывать данные в CSV-файлы, кроме Pandas, рекомендуем библиотеку csv:

    # import `csv`
    import csv
    
    # Read in csv file 
    for row in csv.reader(open('data.csv'), delimiter=','):
          print(row)
          
    # Write csv file
    data = [[1, 2, 3], [4, 5, 6], [7, 8, 9]]
    outfile = open('data.csv', 'w')
    writer = csv.writer(outfile, delimiter=';', quotechar='"')
    writer.writerows(data)
    outfile.close()

    Обратите внимание, что NumPy имеет функцию genfromtxt (), которая позволяет загружать данные, содержащиеся в CSV-файлах в массивах, которые затем можно помещать в DataFrames.

    Финальная проверка данных

    Когда данные подготовлены, не забудьте последний шаг: проверьте правильность загрузки данных. Если вы поместили свои данные в DataFrame, вы можете легко и быстро проверить, был ли импорт успешным, выполнив следующие команды:

    # Check the first entries of the DataFrame
    df1.head()
    
    # Check the last entries of the DataFrame
    df1.tail()

    Note: Используйте DataCamp Pandas Cheat Sheet, когда вы планируете загружать файлы в виде Pandas DataFrames.

    Если данные в массиве, вы можете проверить его, используя следующие атрибуты массива: shape, ndim, dtype и т.д.:

    # Inspect the shape 
    data.shape
    
    # Inspect the number of dimensions
    data.ndim
    
    # Inspect the data type
    data.dtype

    Что дальше?

    Поздравляем, теперь вы знаете, как читать файлы Excel в Python :) Но импорт данных — это только начало рабочего процесса в области данных. Когда у вас есть данные из электронных таблиц в вашей среде, вы можете сосредоточиться на том, что действительно важно: на анализе данных.

    Если вы хотите глубже погрузиться в тему — знакомьтесь с PyXll, которая позволяет записывать функции в Python и вызывать их в Excel.

    Понравилась статья? Поделить с друзьями:
  • Read excel column python
  • Read excel asp net core
  • Read every third word
  • Read every other word
  • Read english word online