Disable zfs tests.

Using testr directly, not using run_tests.sh anymore

(build-)depends for this release.

Now packaging Liberty b2.

Merge tag '7.0.0_b2' into debian/liberty

Cinder liberty-2 milestone (7.0.0.0b2)

Conflicts:
cinder/volume/drivers/zfssa/zfssaiscsi.py

Merge "Remove deprecated config options for Liberty"

Log which service is down

This changes the message "Manager for service cinder-volume
is reporting problems..." to
"Manager for service cinder-volume myhost@backend1 is
reporting problems..."

This makes it more clear in the log file which backend this
message is referring to.

Change-Id: I62172080084a01c0324ffb6ab8a0e4af2b47fb85

Merge "Port StorwizeSVCDriver to use ABCMeta driver model"

Merge "EMC VMAX Modify CG"

Merge "Fix cleanup_temp_volume_snapshots for missing vol"

Merge "Port XIVDS8K Driver to use ABCMeta driver model"

Merge "XtremIO support for iscsi discovery auth"

Merge "Fix doc string definitions"

Merge "Add extra spec capability for Nimble Cinder Driver"

Remove deprecated config options for Liberty

num_iscsi_scan_tries and backup_service have been deprecated for at
least two releases or longer.

Change-Id: I4c99e0aa06fd6ff8fc38dda29e8132e0edd69257
UpgradeImpact: removed num_iscsi_scan_tries and backup_service conf opts

Merge "Add multiple pools support for Huawei driver"

Merge "Remove resource lock operation for HBSD"

Fix cleanup_temp_volume_snapshots for missing vol

The cleanup_temp_volume_snapshots method raises an exception that
causes the backup service to exit if there is a backup without a
corresponding volume.

This commit catches these exceptions so that the backup service is
not prevented from starting in this circumstance.

Change-Id: Ia1aac2fe78048df5fce595d5de181cb4930ea78d
Closes-bug: 1478599

Merge "NetApp E-Series: Add debug tracing"

Merge "Add volume_attachment to volume usage notifications"

Fix doc string definitions

Changed """" at start of docstring to """
and changed ''' to """ in docstrings.

Docstring standards are here -
https://www.python.org/dev/peps/pep-0008/#documentation-strings

Closes-Bug: #1466802
Change-Id: I7d03643845b0542deb52aed59edc1543827436ba

Port StorwizeSVCDriver to use ABCMeta driver model

Use new ABCMeta driver model for StorwizeSVCDriver driver.
Also add empty function unmanage for ManageableVD.

Partially-implements: blueprint abc-driver-update

Change-Id: Ib92342186908a4e148fcb341b38de012047e8c22

Merge "typos(?) in create_snapshots_in_db"

Add extra spec capability for Nimble Cinder Driver

Supported Extra Specs are

1. Performance Policy Name
nimble:perfpol-name = <Performance Policy Name>

2. Encryption
nimble:encryption = "yes"

Implements: blueprint nimble-add-extra-specs-support

Change-Id: I45a18b189746b778f10eecbf669be7943828e28b

Merge "Refactoring of manager's create_volume flow"

Merge "Remove unused arguments from c-vol's create_volume"

XtremIO support for iscsi discovery auth

- Discover existing Initiator Groups (a grouping object for initiators)
  from connection information.
- add unit tests for better code coverage.
- handle 'system is busy' array error.

Change-Id: Ia5df488ed0996fb6fb1b77016772e82323ac1f92
Partial-Implements: blueprint emc-xtremio-updates

typos(?) in create_snapshots_in_db

Other variables are used in line 783 (snap) and 784 (snapshot)
of cinder.volume.api.

Since it looks typo, I fix it.

Change-Id: I3f1aa3b71166e882c751362792fbf90477ecbd38
Closes-Bug: #1478236

Add multiple pools support for Huawei driver

Pool aware scheduler support was introduced in Juno.
This patch proposes to add multiple pools support
for Huawei driver.

Co-Authored-By: Bob-OpenStack liuxinguo@huawei.com
Change-Id: Ibe3b2a123ea5c700d2c2f66d262a8161c5d3e129
Implements: blueprint huawei-storage-multiple-pools-support

Port XIVDS8K Driver to use ABCMeta driver model

Use new ABCMeta driver model for XIVDS8KDriver.

Change-Id: I24eae5d3622b950dd8ff4f516258a2a33dcf7847
Partially-implements: blueprint abc-driver-update

Merge "Dell SC: Fix legacy bug, init_conn bug and REST API bug."

Merge "XtremIO volume driver consistency group support"

Merge "Don’t log warnings in Pure initialize_connection"

Merge "Remove unused serialize_args method"

Merge "Graceful shutdown WSGI/RPC server"

Merge "Remove simple scheduler which is deprecated since Juno"

Refactoring of manager's create_volume flow

This commit resolves a TODO item (bulk metadata create), rephrases
some comments and makes use of new TaskFlow functionality to save
results of revert command to make decisions in c-vol manager instead
of doing an ugly workaround by injecting the information into exception
raised.

Partial-Implements: blueprint taskflow-refactoring
Depends-On: I82ebd0102aa5f50d98d9d6b48b13cd659d6dbcec
Change-Id: Ia4739c87ca83ae725e16256e3f2c596c5e6d935b

Remove unused arguments from c-vol's create_volume

Arguments snapshot_id, image_id, source_volid, source_replicaid,
consistencygroup_id and cgsnapshot_id in volume.rpcapi.create_volume
RPC method are duplicated either in request_spec dictionary passed as
one of the arguments or are saved into the databased and are retrieved
by flow processing the request.

To simplify the flow this commit removes these duplicated parameters
and adapts rest of the code to use occurrences that are already there.

Related-Blueprint: taskflow-refactoring
Change-Id: I4dbb57968358e8930b923275c2dfd0e44d7b40d8

Merge "VMware:Replace vCenter calls with oslo.vmware calls"

Updated from global requirements

Change-Id: I9f0773836a392b3a51490dc7cbf334f18407f009

Merge "Implement retype for Pure drivers"

Merge "Revert "Remove X-IO volume driver""

Merge "Add Cinder internal tenant support"

Merge "Remove logging statements from migrations"

Merge "Dell SC: Add support for driver retype"

Merge "Removing OpenvStorage for no CI"

Merge "Raise BadRequest for invalid replication status"

Merge "Fix getting wwpn information in infortrend driver for DS4000"

Merge "Fix properties extracting from image with glance api v2"

Remove simple scheduler which is deprecated since Juno

Chance and Simple scheduler functionality can be archived using
FilterScheduler, config details is described here:
http://docs.openstack.org/developer/cinder/api/cinder.scheduler.simple.html
The implementation has been deprecated in Juno,so we can remove
it safely now.

DocImpact

Change-Id: I92b302ea0404a35328bd7a36739c3e7846898392

Merge "Remove "volume:services" rule from policy.json"

Merge "Move volume.api test to correct location"

Implement retype for Pure drivers

Currently retyping on the same backend requires a migration to occur
due to using the default implementation of retype on the base volume
driver.

Volumes on the Pure arrays do not have any differentiation
between volume types Cinder may be using. Because of this we can
implement a retype method that will be used whenever changing
types on the same backend that essentially does nothing except return.

Change-Id: Ibf4c57166fe5742cc7e079c4422f7efd2b6dce79
Closes-Bug: 1477780

Merge "Filter cgsnapshots data on the DB side"

Dell SC: Add support for driver retype

Previously there was no need to support retype by the driver
since any kind of retyping would require migration. With the
addition of the ability to set specific Storage Profiles to
use by commit Icf76fceca5a0ae20bb08b276b0c41ef6cdb31087 we
now have something the driver can handle to optimize the
retyping operation.

This adds handling for changes in the selected Storage Profile
if the backend stays the same. Any other retype changes will
return failure, resulting in it falling back to full volume
migration.

Change-Id: I18c55e0392e18d1686546ba17cb99b53b7b50566

Merge "Rename filename from il8n.rst to i18n.rst"

EMC VMAX Modify CG

This patch adds support for modify CG in VMAX driver.

implements blueprint emc-vmax-modify-cg

Change-Id: I23087f6b15dd305fa4e882ea4d8f30414a63c9c8

XtremIO volume driver consistency group support

- Adding consistency group support using XtremIO REST API V2.
- Implements all OpenStack CG volume driver interfaces using XtremIO CG
  capabilities.

Partial-Implements: blueprint emc-xtremio-updates
Change-Id: I2ddf629b0c97a849a2c95ca4a8b7a4dd4adccbec

Add Cinder internal tenant support

This adds two new config options as well as a
helper method to get a RequestContext for the
Cinder internal tenant.

The current implementation will not create a
request context that can be used for calls to
other services, it is (as the name implies) only
for internal Cinder operations.

DocImpact: This adds new config steps that should
be covered in the Cinder docs including the new config
options: 'cinder_internal_tenant_project_id' and
'cinder_internal_tenant_user_id'

Implements: blueprint cinder-internal-tenant
Change-Id: I0c3263e71cf1a275a4538c35ebe1c7d750bb16e6

Merge "Add drivers list generator"

Merge "Prevent missing Purity hosts from raising errors"

Merge "Backups: allow name to be specified during restore"

Merge "Non-disruptive backup"

VMware:Replace vCenter calls with oslo.vmware calls

Currently we call vCenter APIs to find storage policy
associated with a volume. There are methods defined
in oslo.vmware to query storage policies. This patch
replaces vCenter API calls with oslo.vmware method
calls.

Change-Id: I54e18e50e8423de51c43a277e701ddc9a9aef6da

Merge "Add unit tests for cinder.api.v2.volumes"

Merge "VMware: Create volume backing in specific clusters"

Rename filename from il8n.rst to i18n.rst

Internationalization's abbreviation is i18n.
This patch renames l to one.

Closes-Bug: #1477393

Change-Id: Ia7f236bd6eae3bf8613f7589916905a811c68e65

Merge "Dell SC: Fix Consistency Group issues"

Merge "Tests: test_volume mock conversion"

Merge "Fix restore point if backup base is diff-format in ceph"

Merge "Add CHAP support for Huawei driver"

Merge "DRBD: Define a separate prefix for snapshots"

Merge "DRBD: Rename a constant to a better name"

Non-disruptive backup

This patch adds support for non-disruptive backup for
volumes in 'in-use' status as follows:

Adds a force flag in create backup API when backing up
an 'in-use' volume.

For the default implementation in volume/driver.py:
* Create a temporary volume from the original volume
* Backup the temporary volume
* Clean up the temporary volume

For the LVM driver:
* Create a temporary snapshot
* Obtain local_path for the temporary snapshot
* Backup the temporary snapshot
* Cleanup the temporary snapshot

Attach snapshot will be implemented in another patch.

Partial-implements blueprint non-disruptive-backup
Change-Id: I915c279b526e7268d68ab18ce01200ae22deabdd

DRBD: Rename a constant to a better name

As requested in a Icb7347d55dc5b22720269405b6d2b4053c2ad819 review
(https://review.openstack.org/#/c/178573/19..20/cinder/volume/drivers/drbdmanagedrv.py)
constants should consist of uppercase letters only.

Change-Id: I2826fa091b9b7c092c5d436e0a3888cdfa6173a2

Remove resource lock operation for HBSD

This patch removes unnecessary resource lock operation
from Hitachi Block Storage Driver.

DocImpact
Implements: blueprint hitachi-remove-resource-lock

Change-Id: Ia1f3cfb721fbc3a512627fe875de96927f5baa80
Signed-off-by: Seiji Aguchi <seiji.aguchi.tr@hitachi.com>

Dell SC: Fix legacy bug, init_conn bug and REST API bug.

If Dell iSCSI ports are in legacy mode rather than virtual port
mode initialize_connection would fail to return connection information.

If initialize_connection was called more than once for the same
connection it would attempt to map the volumes again and fail. It should
instead just return the connection information and not try to map the
volumes again.

The Dell REST API 2.2 and later changed the format of the payload
filter.  We need to support either format.

Finally consistency group support is only supported in Dell REST API
2.1 or later.  If the version is 2.0 we raise NotImplemented.

Change-Id: Ie798c49a591abb510bd947fc89c26de18f0f3c87
Closes-Bug: #1476786
Closes-Bug: #1476794
Closes-Bug: #1476797

Dell SC: Fix Consistency Group issues

The Dell Storage Center driver was not honoring the consisgroup_id
in the volume object in volume creation. Updated create_volume,
create_cloned_volume and create_volume_from_snapshot to honor this
value.

The driver was also not checking that volumes were initialized prior
to snapshotting a consistency group. The Dell backend does not
actually create the volumes until there is data or the volumes are
mapped to a server.

On create_volume_from_snapshot the driver was not checking for
cgsnapshot_id before snapshot_id.

Changed from calling the db to update snapshots to retrieving
the SnapshotList() object.

In addition some tests were not checking results. Fixed that.

Change-Id: I896f7438c0b98003aa345ca1c3841aba8835cc2a
Closes-Bug: #1474062
Closes-Bug: #1474105
Closes-Bug: #1475016

Add drivers list generator

It is useful to have a maintained (in source control) list
of drivers that exist in Cinder. It could be used in docs
and unit tests to check method impl on backend drivers.

This change add tool for generate list of drivers based on
existing BaseVD class in class hierarchy of volume drivers.

Output example:
Drivers: ['cinder.volume.drivers.lvm.LVMVolumeDriver',
          'cinder.volume.drivers.rbd.RBDDriver',
         ...]

Implements: blueprint drivers-list-generator
Change-Id: I0e10906873e659e09a6e34531a0c932495d7c399

Add CHAP support for Huawei driver

CHAP authentication for iSCSI has already been
implemented in multiple drivers. The patch aims to
add this feature to Huawei driver.

Change-Id: Idb267cbf8cc237878eeb7e1f381a3440699b1342
Implements: blueprint huawei-storage-add-chap-support

Move volume.api test to correct location

Test test_create_volume_with_consistencygroup_invalid_type in
tests.unit.api.v2.test_volumes is verifying consistency group
logic in cinder.volumes.api. This patch moves this test to
tests.unit.test_volume.py.

Change-Id: I0027f03fd084fd490c43e6a957f84a57de7523a6

Remove logging statements from migrations

One of the things that I believe is causing problems with the move to
ostestr and concurrency in unit test run is the copious amounts of
logging that is coming from the db migrations.  In most cases much of
this logging doesn't really seem all that useful, a debug or info log
stating a migration failed, followed by a raise which should generate
a stack trace with the error anyway, seems we could easily do without
this.

Also the "performing migration xxxx/completing migration xxxx" doesn't
seem overly helpful either.  Keep in mind that the migration engine
does some amount of logging anyway.

In addition, catching the exceptions and logging them isn't overly
beneficial or needed either.  When calling migrate from cinder-manage
if one of the migrations raises an exception that will be propogated
up to cinder-manage and displayed.  In other words all of the info is
already available, so there's no need to put it here.

Finally, if you take a look in general most migrations in other
projects don't LOG every thing for the same reasons.

So this patch removes logging statement from the migrations themeselves.

Change-Id: I285df7061c79c79e217cccb2fe387437c20ff746

DRBD: Define a separate prefix for snapshots

As snapshots and volumes are done via one namespace (DRBD resources),
having distinct names helps during debugging - it's easy to see which
type of Cinder element is.

Change-Id: I4080651c8ac471f1de93ab2b63a6cec46d583bce

Prevent missing Purity hosts from raising errors

Occasionally a Purity host can be deleted out from underneath Cinder.
When this happens if cinder is attempting to disconnect a volume from
that host we should treat it as a ‘success’ since if the host is gone,
it is disconnected already (as far as Purity is concerned).

To prevent one cause of this, the disconnect method will now be locked
with the connect ones so that can’t delete a host we intend to re-use.

Change-Id: Iba82c93f9e101709cf5532225068474688187b29
Closes-bug: #1472710

Revert "Remove X-IO volume driver"

This reverts commit 45e6482998478c953edd6973c2d8304efb910bdc.

Change-Id: I9b53fae7ab7462e3f6f90fdf573f9324a26e0f7c

Merge "Remove obsolete API from documentation"

Merge "Refactor Huawei Volume driver"

Filter cgsnapshots data on the DB side

It filters cgsnapshots data on the DB side to improve performance.

Change-Id: I399ddec9d21345bf0496a293059963363c7c8cbe
Partial-Implements: blueprint data-filtering-on-the-db-side

Merge "Remove lio_initiator_iqns config option"

Merge "Add white list support for target ports in VNX driver"

Refactor Huawei Volume driver

This patch attempts to refactor Huawei volume driver in liberty.
We add a base driver to implement the basic functions.
The sub-class will inherit from the base driver according to different
storages.

The following changes were made in this refactor:
1. Abstract a base class named HuaweiBaseDriver to make Huawei driver more
universal. You can find it in the huawei_driver.py.
2. Put all static variables into the constants.py.
3. Rename rest_common.py to rest_client.py. rest_client.py stores the
relevant methods implemented for Huawei driver.
4. Migrate some public methods from rest_client.py to huawei_utils.py,
such as parse_xml_file(), _get_volume_type() and so on.
5. This refactor only involves structural adjustment and does not involve
functional changes.

Change-Id: I768889e2577a4d975397218eb31e89b42e08e04f
Implements: blueprint refactor-huawei-volume-driver

Add volume_attachment to volume usage notifications

This change adds volume_attachment to volume usage notifications
sent by Cinder. This information is useful for billing and audit purposes.

Closes-bug: #1474596
Change-Id: I0698a7d90e61df9e0cb46cee23519ac334b36def

Graceful shutdown WSGI/RPC server

Change-ID I80487f559302b0e88953835ffb4a3bfe2a347501 introduces
oslo.service into Cinder. The graceful shutdown of RPC server
was introduced via merging of oslo.service.
Actual fix was introduced by https://review.openstack.org/#/c/190175/
into oslo.service.

The oslo.service fix provides this facility through it's wait()
method, so we need to call it in Cinder Service wait() method
which gets called when graceful shutdown is requested by sending
the process SIGTERM.

Change-Id: Iea877e062272103ea48583b5638dec6174e99de0
Closes-Bug: 1464822

Backups: allow name to be specified during restore

This commit adds the ability to specify a `name` attribute during backup
restore. This will create a volume with the specified name during
restore, instead of the default pattern of the form
`restore-backup-<id>`. In case volume id is specified the `name`
attribute is ignored.

DocImpact
APIImpact
Implements: blueprint backup-restore-display-name
Change-Id: I23730834058d88e30be62624ada3b24cdaeaa6f3
Signed-off-by: Abhishek Lekshmanan <abhishek.lekshmanan@gmail.com>

Merge branch 'debian/liberty' of git+ssh://git.debian.org/git/openstack/cinder into debian/liberty

Fixed OSLO_PACKAGE_VERSION for last PBR version.

Merge "Fix getting out-of-date volume operation state issue for VNX"

Merge "Support SMI-S provider v8.0.3 in VMAX driver"

Merge "Fix 3PAR driver handling of existing VLUNs"

Merge "scality: add export and name keys to os-initialize_connection info"